Vi er kommet til veis ende for store språkmodeller, skal vi tro sjefen i OpenAI, Sam Altman. Skal kunstig intelligens bli bedre må nye ideer til.
Det var til en forsamling på MIT i forrige uke at OpenAIs sjef Sam Altman uttalte at store språkmodeller ikke nødvendigvis blir bedre enn de er nå, av å gjøres større. De er ifølge sjefen, kommet til et veiskille hvor ny teknologi må til.
Vi kommer til å gjøre dem bedre på andre måter.
Sam Altman
Les også: Elon Musk starter nytt KI-selskap. X.AI tar opp kampen med OpenAI
Ingen oppfølger til GPT-4?
Altmans utsagn kan bety at det ikke vil komme en oppfølger til GPT-4. OpenAI skriver at estimater tyder på avtagende avkastning ved å skalere opp modellstørrelsen. Altman sier også at det er fysiske begrensninger for hvor mange datasentre selskapet kan bygge og hvor fort de kan bygge dem.
OpenAI har gjort imponerende fremskritt ved å ta eksisterende maskinlæringsalgoritmer og skalere dem opp til en tidligere uhørt størrelse. GPT-4 ble sannsynligvis trent med trillioner av ord. Prosessen kostet over 100 millioner dollar. Men her stopper det muligens.
