Tajný dopis před odvoláním CEO
Podle informací od agentury Reuters, které byly zveřejněny včera v časných ranních hodinách, před minulý odvoláním Sama Altmana z pozice CEO společnosti OpenAI poslalo několik výzkumníků této firmy správní radě OpenAI důležitý dopis.
V tomto dopise varovali před „silným objevem v oblasti umělé inteligence”, který by mohl představovat hrozbu pro lidstvo. Tento dopis měl být zároveň jedním z klíčových momentů, které vedly k nečekanému odvolání Altmana.
According to a report by Reuters, OpenAI's secret breakthrough called Q* (pronounced Q-Star) precipitated the ousting of Sam Altman.
Ahead of Sam's firing, researchers sent the board a letter warning of a new AI discovery that could "threaten humanity". pic.twitter.com/F9bAeJG0fX
— Rowan Cheung (@rowancheung) November 23, 2023
OpenAI a projekt Q*
OpenAI v interním odkazu pro zaměstnance přiznal existenci projektu Q* a dopisu prodaného správní radě, ale odmítl komentovat jeho obsah.
Projekt Q* by mohl představovat průlom v hledání tvz. umělé všeobecné inteligence (AGI) schopné překonat lidi ve většině ekonomicky hodnotných úkolů. Kromě toho se polemizuje, že AGI by mohla být schopna dělat prakticky všechno lépe než člověk. Rychleji a efektivněji. To by znamenalo, že bychom se v podstatě stali jejími otroky, protože ve všem by nás předběhla.
I když je umělá inteligence momentálně schopna řešit matematické problémy „jen“ na úrovni základní školy, jeho úspěchy vedou výzkumníky k optimismu ohledně jeho budoucí úspěšnosti, píše Reuters.
AGI: Další krok v AI
Řešení matematických problémů je považováno za hranici vývoje generativní AI. Na rozdíl od kalkulaček, které řeší omezený počet operací, AGI dokáže generalizovat, učit se a chápat. Výzkumníci proto ve svém dopise vyjádřili obavy z potenciálního nebezpečí takových pokročilých AI systémů, které zřejmě přinutily zamyslet se vedení OpenAI nad tím, zda chtějí jít tímto nebezpečným směrem.
Reuters kromě toho píše, že skupina AI výzkumníků v OpenAI, známá jako „AI scientist team”, se snažila optimalizovat stávající AI modely pro zlepšení jejich úsudku a výkonu vědecké práce.
Altman, který stál za úspěchem ChatGPT, získával pro tuto divizi investice a počítačové zdroje od Microsoftu, aby jim pomohl přiblížit je k dosažení AGI, neboli všeobecné umělé inteligence.
Dnes už dobré známé okolnosti následně vedly k tomu, že správní rada Altmana odvolala, čímž zřejmě chtěla zamezit nekontrolovatelnému a rychlému pokroku v oblasti AGI.
Důvodem přitom neměly být jen pokroky samotné OpenAI, kterou proslavil ChatGPT, ale také očekávání, že do roka by mohla být umělá inteligence díky novým investicím do jazykových modelů ještě desetkrát šikovnější. Také se zmiňují obrovské pokroky u Google Bard, Neuralinku či ElevenLabs, které všechny vedou stejným směrem k AGI.
Stalo se tak den poté, co Altman vystoupil na konferenci, kde řekl šokující větu: ,,Vytvořili jsme nástroj pro budování, nebo osobnost?“
A day before Sam was fired, he gave this chilling speech:
"Is this a tool we've built or a creature we have built?"
This timeline would add up with the recent discovery of Q*. pic.twitter.com/BnjcHsdSnl
— Rowan Cheung (@rowancheung) November 23, 2023
Proti odvolání Altmana se však vzbouřili nejprve investoři v čele s Microsoft a následně i zaměstnanci, což přimělo vedení firmy Altmana přijmout zpět do pozice generálního ředitele.
Shrnutí
- Výzkumníci OpenAI varovali před novým AI objevem, který může ohrozit lidstvo
- Projekt Q* může být průlomem v hledání AGI
- AGI představuje potenciální nebezpečí, ale také obrovské příležitosti
Zdroje: Reuters, Twitter (X)
