ChatGPT и как изкуственият интелект може да счупи капитализма
В рядко интервю главният изпълнителен директор на OpenAI Сам Алтман говори за AI модела ChatGPT, изкуствения общ интелект и Google Search.
Като главен изпълнителен директор на OpenAI, Алтман е ръководител на най-нашумелия – и най-следения – стартъп в бързоразвиващата се генеративна AI категория, обект на скорошна тематична история във февруарския брой на Forbes.
След посещение на офисите на OpenAI в Сан Франциско в средата на януари, Forbes разговаря с доскоро срамежливия инвеститор и предприемач за ChatGPT, общия изкуствен интелект и дали неговите AI инструменти представляват заплаха за Google Search.
Алекс Конрад: Струва ми се, че сме в повратна точка с популярността на ChatGPT, стремежът за монетизация и цялото това вълнение около партньорството с Microsoft. От Ваша гледна точка, къде e OpenAI в развитието си? И как бихте описали повратната точка?
Сам Олтман: Определено е вълнуващо време. Но надеждата ми е, че все още е много рано. Наистина това ще бъде непрекъснат експоненциален път на подобряване на технологията и положителното въздействие, което тя оказва върху обществото. Можехме да кажем същото при пускането на GPT-3 или при пускането на DALL-E. Казваме го сега [с ChatGPT]. Мисля, че можем да го повторим по-късно. Може и да грешим, може да се сблъскаме с препъни камък, който не сме очаквали или не очакваме. Но мисля, че има реален шанс наистина да сме разкрили нещо важно тук и тази парадигма ще ни отведе много, много далеч.
Бяхте ли изненадани от реакцията към ChatGPT?
Исках да го направя, защото мислех, че ще проработи. Така че донякъде съм изненадан от мащаба. Но се надявах и очаквах хората наистина да го харесат.
[Президентът на OpenAI] Грег Брокман ми каза, че екипът дори не бил сигурен, че си струва да се пуска. Така че не всички са се чувствали така.
Екипът има дълга история, в която не е толкова развълнуван от опитите за пускане на нещо ново. Ние просто казваме: “Нека просто опитаме. Нека просто опитаме и да видим какво ще се случи”. Този път много настоявах. Наистина мислех, че ще проработи.
В миналото сте казвали, че смятате, че хората може да са изненадани от начина, по който е създаден и се управлява ChatGPT. Какво мислите, че е неразбрано?
Едно от нещата е че базовият модел за ChatGPT беше в API от дълго време, нещо от сорта на 10 месеца. [Бележка на редактора: ChatGPT е актуализирана версия на модел GPT-3, пуснат за първи път като API през 2020 г.] Мисля, че едно от изненадващите неща е, ако направите лека настройка, за да накарате [модела] да бъде полезен по определен начин и разберете правилната парадигма на взаимодействие, тогава можете да получите това. Това всъщност не е фундаментално нова технология, която сега се появи внезапно. Бяха другите неща. И мисля, че това не е добре разбрано. Все още много хора просто не ни вярват и предполагат, че това е GPT-4.
С врявата в цялата AI екосистема, надигащата се вълна полезна ли е за Вас? Или се вдига шум, който усложнява работата Ви?
И двете. Определено и двете.
Смятате ли, че се формира истинска екосистема, където и други компании, освен OpenAI извършват важна работа?
Да. Мисля, че това е прекалено голямо за една компания. Всъщност се надявам, че тук има истинска екосистема. Мисля, че така е много по-добре. В един момент трябва да има множество AGI [общ изкуствен интелект]. Така че наистина приветствам това.
Виждате ли някакви паралели между това къде е пазарът на AI днес и, да речем, появата на облаци за изчисление, търсачки или други технологии?
Вижте, мисля, че винаги има паралели. Винаги има неща, които са характерни. Грешката, която правят повечето хора е че говорят твърде много за приликите, а не за много фините нюанси, които ги правят различни. Супер лесно и разбираемо е да се говори за OpenAI като: “А, да, това ще бъде точно като битките на облаците за изчисление. И ще има няколко подобни платформи и вие ще използвате само една като API”. Но има куп различни неща и ще има много различни избори на функции, които хората ще правят. Облаците са доста различни в определен аспект, но поставяте нещо и то се показва. Мисля, че ще има много повече разлики между различните AI предложения.
Хората се чудят дали ChatGPT ще замести традиционните търсачки, като Google Search. Това мотивира ли Ви или Ви вълнува?
Не мисля, че ChatGPT [ще замени Search]. Но мисля, че някой ден някоя AI система би могла. Нещо повече. Мисля, че хората просто пропускат възможността, ако са фокусирани върху миналото. За мен е много по-интересно да мисля за това, което идва отвъд търсенето. Не помня какво правихме преди търсенето в мрежата, твърде млад съм. Предполагам, че и при вас е така…
Имахме CD-ROM на Encyclopedia Britannica, когато бях малко дете.
Да, точно така. Помня точно това. Но никой не дойде и не каза: “Ще направя малко по-добра версия на Encyclopedia Britannica на CD-ROM в основното ми училище”. Те казват: “Всъщност можем да направим това по супер различен начин”. И нещата, от които съм развълнуван за тези модели са, че това не е като: “Как се заменя изживяването да влезеш в мрежата и да въведеш заявка за търсене”, а “Какво да направим, което да е напълно различно и много по-готино”?
И това е отключено от AGI? Или се е случило преди това?
Не, надявам се да стане много скоро.
Смятате ли, че сме близо до целта за нещо като AGI? И как бихме могли да разберем кога тази версия на GPT или каквото и да е, вече е там?
Не мисля, че сме много близо до AGI. Но въпросът как ще разберем е нещо, върху което размишлявам много напоследък. Единственият ъпдейт, който получих през последните пет години или откогато се занимавам с това – по-дълго от това – е че няма да е толкова кристално ясен момент. Ще бъде много по-плавен преход. Ще бъде това, което хората наричат ”бавно излитане”. И никой няма да съгласен кой е точният момент, в който се е появил AGI.
Това релевантно ли ще е за всичките Ви интереси отвъд OpenAI? Всички ли са свързани с AGI, Worldcoin и всички тези други компании?
Да. Това поне е рамката, в която разсъждавам. [AGI] е нещото, което движи всичките ми действия. Някои са по-директни от други, но много, които не изглеждат директни, всъщност са. Освен това я има и целта да се стигне до свят на изобилие. Мисля, че енергията наистина е важна, но тя е от значение и за създаването на AGI.
Грег [Брокман] заяви, че макар OpenAI да е насочена към изследвания, тя не е антикапиталистическа. Как се справяте в ситуацията между това да сте с цел печалба и инвеститори, които искат възвръщаемост, и по-широката цел на OpenAI?
Мисля, че капитализмът е страхотен. Обичам капитализма. От всички лоши системи, които светът има и сме открили досега, той е най-добрата – или най-малко лошата. Надявам се да намерим много по-добра. И смятам, че ако AGI наистина се появи в пълната си форма, мога да си представя всички начини, по които ще разбие капитализма.
Опитахме се да разработим структура, която, доколкото знам, не прилича на никоя друга корпоративна структура, която съществува, защото ние действително вярваме в това, което правим. Ако мислехме, че това ще бъде поредната технологична компания, щях да кажа: “Чудесно, знам този наръчник, защото съм го правил през цялата си кариера, така че нека да направим наистина голяма компания.” Но ако наистина получим AGI, ще ни трябва нещо различно [в структурата на компанията]. Така че съм много развълнуван за нашия екип и нашите инвеститори, които да се справят много добре, но не мисля, че някоя компания трябва да владее вселената на изкуствения интелект. Как ще се разпределят печалбите от AGI, как се разпределя достъпът до тях и как ще се разпредели управлението – това са три въпроса, които ще изискват ново мислене.
Грег ме запозна с идеята за бъдещето на (API) на трети страни, както и на продукти на първи страни – може би корпоративни инструменти. Докато създавате продукти, как поддържате духа на OpenAI да остане отворен?
Мисля, че най-важният начин, по който правим това, е като предлагаме отворени инструменти като ChatGPT. Google не предоставя тези неща за обществено ползване. Други изследователски лаборатории не го правят по други причини – има хора, които се опасяват, че не е безопасно. Но наистина вярвам, че е необходимо обществото да усети това, да се бори с него, да види ползите и да разбере недостатъците. За това мисля, че най-важното нещо, което трябва да направим, е да пуснем тези неща там, за да може светът да започне да разбира какво идва. От всички неща, от които се гордея с OpenAI, едно от най-големите е, че успяхме да изместим прозореца на Overton [Бележка на редактора: модел за разбиране на това кои политики са политически приемливи за обществото в даден момент] на AGI по начин, който смятам за здравословен и важен, дори, ако понякога е неудобен.
Освен това искаме да предлагаме все по-мощни API, тъй като можем да ги направим по-безопасни. Ще продължим да предлагаме неща с отворен код, както направихме с CLIP [Бележка на редактора: визуална невронна мрежа, пусната през 2021 г.]. Отвореният код е това, което доведе до бума на генериране на изображения. Неотдавна предоставихме отворен код за Whisper и Triton [автоматично разпознаване на реч и език за програмиране]. Така че вярвам, че това е многостранна стратегия за пускане на нещата в света, като същевременно балансираме рисковете и ползите от всяко конкретно нещо.
Какво бихте казали на хората, които може би се притесняват, че се присламчвате към [главния изпълнителен директор] Сатя [Надела] и Microsoft?
Бих казал, че сме изградили внимателно всички сделки, които сме сключили с тях, за да сме сигурни, че все още можем да изпълним нашата мисия. Освен това Сатя и Microsoft са страхотни. Мисля, че те са технологичната компания, която в най-голяма степен съответства на нашите ценности. И всеки път, когато отивахме при тях и им казвахме: “Трябва да направим това странно нещо, което вероятно ще намразите, защото е много различно от това, което се прави в стандартна сделка, като ограничаване на възвръщаемостта или наличието на разпоредбите за отмяна на безопасността”, те са казвали, “Това е страхотно”.
Значи смятате, че бизнес натискът или реалностите на печалбата на OpenAI няма да противоречат на цялостната мисия на компанията?
Съвсем не. Можете да ме свържете с когото и да било. Известен съм с това, че не се съгласявам с нещо, с което не искам да се съгласявам. Не бих сключил сделка, ако смятах така.
Вие не сте монаси, които казват: “Не искаме да печелим от това.” В същото време изглежда, че не сте мотивирани и от създаването на богатство.
Мисля, че със сигурност има баланс. Искаме хората да са много успешни, да получават голяма възвръщаемост [на собствения си капитал]. Tова е страхотно, стига да е на нормално и разумно ниво. Ако се случят нещата с пълния потенциал на AGI, искаме нещо различно за тази парадигма. Искаме да имаме възможност да определим как ще споделим това с обществото. Мисля, че сме го направили по хубав начин, който го балансира.
Кое е най-готиното нещо, което сте виждали да се прави с GPT досега? И кое е нещото, което Ви плаши най-много?
Наистина е трудно да се избере едно най-хубаво нещо. Забележително е да се види разнообразието от неща, които хората са направили. Мога да ви кажа нещата, в които съм намерил най-голяма лична полза. Резюмирането е много важно за мен, много повече, отколкото си мислех, че ще бъде. Фактът, че просто мога да имам обобщени пълни статии или дълги имейл нишки е много по-полезен, отколкото бих си помислил. Също така възможността да задавам езотерични въпроси за програмиране или да помагам за отстраняване на грешки в кода по начин, който създава усещането, че имам супер брилянтен програмист, с когото мога да говоря.
Що се отнася до нещо страшно? Определено наблюдавам с голяма загриженост генерирането на порно за отмъщение, което се случва с генераторите на изображения с отворен код. Мисля, че това причинява огромни и предвидими вреди.
Смятате ли, че компаниите, които стоят зад тези инструменти, носят отговорност да гарантират, че подобни неща няма да се случат? Или това просто е неизбежна страна на човешката природа?
Мисля, че е и двете. Въпросът е къде искате да го регулирате? В известен смисъл би било чудесно, ако можехме просто да посочим тези компании и да кажем: “Не можете да правите тези неща”. Но мисля, че хората ще използват модели с отворен код и в повечето случаи това ще бъде чудесно, но ще се случат и някои лоши неща. Компаниите, които надграждат, компаниите, които имат последна връзка с крайния потребител, също ще носят някаква отговорност. И така, мисля, че ще има съвместна отговорност и отчетност.
