Стартап OpenAI

В OpenAI неделя — большой срок 

Неделя — это большой срок в OpenAI. За семь дней стартап покинули технический директор, старший научный сотрудник и вице-президент по исследованиям, и одновременно (что вряд ли является случайным совпадением) стартап объявил о начале этапа привлечения крупнейшего венчурного капитала (VC) в истории. Мыльная опера о стартапе из Кремниевой долины разыгрывается в «X» (ранее Twitter) в режиме реального времени на глазах у всей индустрии и всего мира.

Технический директор Мира Мурати покинула бизнес после шести с половиной лет работы, написав в «X» следующее: «не может быть идеального времени, чтобы покинуть место, которым дорожишь, но сейчас правильный момент».

«Этот момент», ровно за семь дней до объявления о крупнейшем в истории этапе венчурного финансирования, предположительно, выбран «правильным» потому, что изменения в руководящем составе окажутся в тени новостей о финансировании.

Главный научный сотрудник OpenAI Боб МакГрю, ветеран с восьмилетним стажем, написал: «Мне пора взять перерыв». А вице-президент по исследованиям Баррет Зоф сказал: «Именно сейчас настал естественный для меня момент, чтобы изучить новые перспективы вне OpenAI».

Ни Мурати, ни МакГрю, ни Зоф не дали никаких конкретных сигналов о том, чем они будут заниматься дальше.

Генеральный директор OpenAI Сэм Альтман сообщил во внутренней памятке, опубликованной позже в «X», что все трое принимали решения «независимо друг от друга и полюбовно», отметив, что Мурати рассудила так: «Никогда не бывает подходящего момента, так или иначе всё стало бы известно, и она решилась на это, пока OpenAI находится на подъёме».

Технологические стартапы часто бывают бурной средой, но, даже вне зависимости от момента времени, потеря сразу трёх ведущих технических членов команды выглядит не очень хорошо в «послужном списке» любого стартапа.

Настоящий вопрос таков: покинули ли три персонажа «мыльную оперу» из-за того, что их истории в OpenAI закончились, или это часть обширной многосезонной сюжетной линии, которая ещё не полностью разыграна?

Безопасные исследования AGI

Поклонники предыдущего сезона этой мыльной оперы помнят, что Альтман был ненадолго отстранен советом директоров в ноябре 2023 года. Всего на несколько дней он присоединился к Microsoft, и менее чем через неделю был восстановлен в должности генерального директора OpenAI. Правление тогда заявило, что Альтман «не был полностью откровенен в своих сообщениях». Большая часть совета директоров OpenAI была заменена после возвращения Альтмана, а бывший член правления Хелен Тонер позже рассказала, что, наряду с некоторыми другими темами, Альтман умолчал о процессах обеспечения безопасности в компании.

Затем компанию покинули двое видных учёных в области искусственного интеллекта, Андрей Карпатый и Илья Суцкевер.

«Ничего не «стряслось», и это не результат какого-то конкретного случая, проблемы или трагедии», — написал Карпатый в твите, где заявил о своей отставке, которая непреднамеренно способствовала драме. И занялся стартапом, где ИИ применяется к образовательным и обучающим материалам.

Суцкевер ушел, чтобы запустить конкурирующий с OpenAI стартап, который он назвал Safe Superintelligence Inc. Но даже такое заметное упоминание безопасности в названии его проекта не помогло прекратить болтовню в социальных сетях о том, что работа OpenAI над «общим искусственным интеллектом» (AGI) небезопасна. Подобные разговоры лишь усилились после кратковременной отставки Альтмана. Уход Суцкевера через год после известного открытого письма, которое положило начало движению ИИ-думеризма (ожидания конца света из-за действий искусственного интеллекта), породил мем «Что же увидел Илья?», отчасти ироничный способ выражения серьёзных опасений по поводу проблем, связанных с LLM.

Несколько высокопоставленных сотрудников, включая соучредителя корпорации Anthropic Дарио Амодея, уволились ранее из-за проблем с безопасностью.

Новейшая модель OpenAI o1, запущенная три недели назад, отличается новыми возможностями рассуждений благодаря методу «цепочка мыслей» (Chain-of-thought (CoT)) для решения наиболее сложных задач. Метод «цепочки мыслей» разбивает задачи на этапы и пробует разные стратегии решения для получения наилучших результатов, требуя поэтому больших вычислительных затрат (практически несколько выводов в одном), но являясь наилучшим в решении задач шифрования и математических расчётов.

Частью работы над o1 было создание нового безопасного подхода к обучению, который использует мыслительные возможности модели для рассуждений о правилах безопасности с целью их более эффективного применения.

Возложение на ИИ ответственности с применением его собственных правил безопасности кажется немного неразумным, но может ли именно забота о безопасности быть причиной последней череды увольнений руководителей?

Получение прибыли

При оценке пост-инвестиционной стоимости в $157 млрд., OpenAI смогла привлечь $6,6 млрд. в результате крупнейшего в истории вливания венчурного капитала (ранее в этом году конкурирующая компания xAI привлекла $6 млрд.). В СМИ было множество сообщений о том, что OpenAI будет перестроена в коммерческую компанию (сейчас это НКО с коммерческим подразделением, где прибыль инвесторов не может превышать 100-кратную).

Новостной портал Axios сообщил, что инвесторы требуют от OpenAI реструктурироваться в коммерческую компанию в течение двух лет, в то время как сама OpenAI, по данным Bloomberg, заявила: «Некоммерческая деятельность является основой нашей миссии и будет продолжена».

По всей видимости, сдвиг в сторону коммерческой в основном деятельности противоречит миссии компании, которая заключается в обеспечении преимуществ AGI для всего человечества. В информации, предоставленной в рамках продолжающегося судебного процесса против Илона Маска, компания фактически заявила, что ещё в 2017 году «пришла к осознанию того факта, что создание AGI потребует огромных объёмов вычислений», больше, чем может предоставить НКО. Последовательное превращение деятельности OpenAI в процесс зарабатывания денег могло, вероятно, поспособствовать увольнениям технических сотрудников. Из 11 сооснователей только трое остались в компании (Альтман, Войцех Заремба и Грег Брокман, который в настоящее время в длительном отпуске).

Другим сомнительным аспектом дела стали спорные сообщения о получении Альтманом акций компании как части сделки.

На слушаниях в Сенате в прошлом году Альтман говорил, что он «зарабатывает достаточно для медицинской страховки», но не владеет акциями OpenAI. «Я делаю это, потому что мне нравится», — сказал он, практически использовав отсутствие возможности лично получать прибыль как свидетельство добрых намерений и себя, и компании. Подобная довольно лицемерная позиция продержалась недолго: ставшие известными 7,5% его акций сегодня составляют более 11 миллиардов долларов.

CNBC сообщает, что на прошлой неделе Альтман заявил на общем собрании, что у него нет планов получить «гигантский пакет акций» в компании. Председатель OpenAI Брет Тейлор сказал CNBC, что совет директоров обсуждал предоставление Альтману части акций, но никаких конкретных цифр не называлось. Довольно необычно, если гендиректор стартапа не владеет акциями компании, и цифра в 7,5% не так уж редка, но Альтман, похоже, останется без своей огромной зарплаты, по крайней мере на текущий момент.

Болезни роста

Что видят в OpenAI инвесторы? Стартап явно растет очень быстро, проходя через множество изменений.

ChatGPT, передовой продукт OpenAI, сейчас насчитывает 250 миллионов пользователей в неделю, но обслуживание масштабируемого вывода весьма затратно. Компании также нужно обучать модели следующего поколения, которые всё увеличиваются в размерах. По сообщениям The New York Times, в этом году OpenAI ожидают операционные расходы в размере 5 миллиардов долларов при выручке в 3,7 миллиарда.

Между тем, компания Meta вложила бесчисленные миллионы в разработку конкурирующих LLM в сопоставимых масштабах, а также открыла для всеобщего использования их код.

По имеющимся сообщениям, OpenAI также попросила своих инвесторов не вкладывать в конкурирующие стартапы, включая xAI Илона Маска и Anthropic Дарио Амодея (оба являются бывшими сотрудниками OpenAI).

Тянутся судебный иски с создателями контента, возмущенными тем, что их работы были использованы для обучения ИИ; также, несмотря на продолжающийся поток новостей, OpenAI изо всех сил старается развеять опасения общественности по поводу безопасности ИИ.

Уровень роста OpenAI будет ограничен её доступом к вычислениям, и инвесторы отчётливо понимают это. Вполне возможно, что основная часть привлеченных финансов уйдёт на оплату GPU-часов в облаке Microsoft Azure, но может ли OpenAI думать о создании собственных дата-центров, как у конкурирующей Inflection? Как любая компания с серьёзным финансированием и полной зависимостью от недешёвых вычислений на основе графических ускорителей, OpenAI должна, конечно, задуматься и о создании собственных чипов. Год назад стартап нанял Ричарда Хо на должность главы отдела оборудования, и затраты в 100 миллионов долларов на собственные кремниевые разработки составят не такую уж и большую часть от 6,6 миллиардов.

Молодые компании часто переживают болезни роста, и OpenAI, похоже, испытала много неприятностей за последние 12 месяцев. Альтман всё больше выглядит как персонаж из мыльной оперы, который никуда не делся, хотя другим актёрам дали роли получше. Но герой или злодей его персонаж? Команда сценаристов пока не пришла к единому мнению, но те, кто наблюдает за индустрией, сидят на краешке стула и ждут следующего сезона.