Прекрасное субботнее чтиво о том, как OpenAI и невероятный план Илона Маска сделают искусственный интеллект общедоступным.

Послеобеденные новости в пятницу — груда мусора, великая традиция, соблюдаемая политиками и капиталистами, чтобы скрыть из виду плохие известия. Поэтому было достаточно странно, что Илон Маск, основатель производителя электрокаров Tesla, и Сэм Альтман, президент знаменитого технологического инкубатора Y Combinator, представили новую компанию по разработке искусственного интеллекта во время заключительной части недельной конференции ИИ в Монреале в декабре прошлого года.

Но есть причина, по которой они показали OpenAI в столь поздний час. И не то, чтобы никто не смотрел. Смотрели все. Когда некоторые из наиболее влиятельных компаний Кремниевой долины разузнали о проекте, они начали предлагать невероятные суммы денег только что нанятым работникам OpenAI, намереваясь пригреть эти великие умы под своим крылом. Предложения, сделанные в последнюю минуту, — некоторые из них прямо на конференции — были достаточно значительны, чтобы заставить Маска и Альтмана отложить анонс нового стартапа. «Предлагаемые суммы были за гранью здравого смысла», — заявляет Войцех Заремба, исследователь, который присоединился к OpenAI после стажировки в Google и Facebook и был среди тех, кто в одиннадцатом часу получил крупное предложение.

«За гранью здравого смысла» — это сколько в долларах США? Два года назад, когда рынок новейших технологий машинного обучения только-только начал по-настоящему набирать обороты, вице-президент Microsoft Research Питер Ли заявил, что зарплата исследователя ИИ высшего уровня затмевает зарплату лучшего квотербека НФЛ — и речь шла об обычных обстоятельствах, то есть не о ситуации, когда два самых известных предпринимателя Кремниевой долины пытаются переманить на свою сторону самых талантливых. Заремба признался, что в процессе организации OpenAI ему предложили сумму вдвое или даже втрое превышающую его реальную заработную плату.

OpenAI не мог соответствовать этим предложениям. Но он предложил кое-что другое: возможность проводить исследования, направленные исключительно на будущее, а не на создание продуктов и получение квартальной прибыли, и в конце концов разделить часть этих исследований — если не все — с любым, кто бы этого захотел. Все верно: Маск, Альтман и компания хотят раздать людям то, что может стать самой прорывной технологией 21 века — и раздать бесплатно.

Илья Суцкевер. Фото: Кристи Хемм Клок / WIRED

Илья Суцкевер. Фото: Кристи Хемм Клок / WIRED

Заремба признается, что именно нереальные предложения на самом деле отпугнули его, даже несмотря на его огромное уважение к таким компаниям, как Google и Facebook. Он считает, что те деньги и все усилия по предотвращению образования OpenAI были ничем иным, как попыткой заполучить его услуги, и это еще больше подтолкнуло его к вере в великодушную миссию стартапа. «Я понял, что OpenAI — идеальное место для меня», — вспоминает Заремба.

И в этом главная ирония всей истории: несмотря на то, что самые большие технологические компании мира стараются удержать своих исследователей с той же яростью, с какой команды НФЛ пытаются удержать своих звездных квотербеков, сами исследователи хотят лишь отдавать. В утонченном мире исследований ИИ ярчайшими умами не движут — или, по-крайней мере, движут не только — новая линейка продуктов или прибыль. Они хотят сделать ИИ лучше, и этого не случится, если вы бережете свои новейшие находки для себя самих.

Сегодня утром (статья вышла 27 апреля — прим. Newочём) OpenAI выпустит свой первый пакет программного обеспечения для ИИ, инструментарий для создания систем искусственного интеллекта с помощью технологии под названием «обучение с подкреплением» — одна из ключевых технологий, которая среди прочих сделала возможным создание AlphaGo, искусственного интеллекта Google, потрясшего весь мир освоением древней игры го. С помощью этого инструментария вы можете создать системы, которые моделируют новые типы роботов, играют в игры от Atatri и, да, осваивают го.

Но игры — лишь начало. OpenAI — это попытка, стоимостью миллиард долларов, пропихнуть ИИ в развитии настолько далеко, насколько получится. И в том, как собирались компании, и в том, что они планируют сделать, мы можем увидеть новую волну инноваций. Мы еще нескоро узнаем, станет ли сама OpenAI лидером этих изменений. Но силы, которые ведут создание таких необычных стартапов, показывают, что новый тип ИИ изменит не только технологии, но и сам способ, которым мы эти технологии создаем.


ИИ повсюду

Но нельзя сказать, что Кремниевая долина не склонна к преувеличениям. Встретить громкие заявления со скептицизмом — всегда целесообразно. Но в области искусственного интеллекта изменения более, чем реальны. В таких компаниях, как Google и Facebook, технология под названием «глубинное обучение» уже помогает интернет-сервисам определять лица на фото, распознавать голосовые команды, которые мы говорим в смартфоны, а также отвечать на запросы интернет-поиска. И та же самая технология может в будущем выполнять огромное множество других заданий. Она может помочь машинам понимать естественный язык — привычный для нас, людей, способ говорить и писать. Она может создавать новые типы роботов, давая автоматическим устройствам способность не только выполнять задания, но и обучаться на лету. И некоторые считают, что когда-нибудь она сможет дать машинам нечто близкое к тому, что мы называем разумом — способность действительно мыслить подобно человеку.

Но наряду с этими обещаниями приходит беспокойство. Маск и Альтман волнуются, что если люди смогут создать ИИ, который творит великие вещи, они будут способны создать ИИ, который сможет делать и ужасные вещи. И они не одни в своем страхе роботов-владык, но парадоксальным образом Маск и Альтман считают, что лучший способ сражаться с разбушевавшимся ИИ — не ограничить доступ к нему, а, наоборот, расширить. Частично это и привлекло в проект команду молодых гипер-интеллектуальных идеалистов.

OpenAI стартовал одним летним вечером в Кремниевой долине в комнате Rosewood Hotel — высококлассном городском отеле в стиле ранчо, который расположен буквально в центре мира венчурных капиталов вдоль Сэнд-Хилл-роуд в Менло-Парк, штат Калифорния. Илон Маск ужинал с Ильей Суцкевером, который в тот момент работал в Google Brain, попытке компании создать нейронную сеть — систему ИИ, которая может учиться и выполнять задания, анализируя большое количество цифровых данных, включая все от распознавания лиц на фото до составления электронных писем и ведения беседы. Суцкевер был одним из главных мыслителей проекта. Но в игру вступили идеи покруче.

Сэм Альтман, чей Y Combinator помог развиться таким компаниям, как Airbnb, Dropbox и Coinbase, выступал в роли посредника на встрече, сведя несколько ИИ-исследователей и молодого, но опытного создателя компаний по имени Грег Брокман, бывшего директора по технологиям в высококлассном стартапе Кремниевой долины по проведению цифровых платежей Stripe, еще одной компании Y Combinator. Это была взрывная команда. Но их всех объединяла цель: создать новый тип ИИ-лаборатории, такой, которая будет вне контроля не только Google, но и кого бы то ни было.

«Лучшее, что я только мог себе представить, — это приблизить человечество к созданию настоящего ИИ безопасным способом»,

— говорит Брокман.

Маск был там, потому что он давний друг Альтмана — а также по причине того, что ИИ имеет решающее значение для будущего его предприятий и, соответственно, для всего будущего. Tesla нуждается в ИИ для электрокаров с автопилотом. SpaceX, еще одной компании Маска, он понадобится для того, чтобы доставлять людей в космос и сохранять их живыми, когда они туда доберутся. Но Маск это еще и один из самых влиятельных людей, предупреждающих нас, что однажды люди могут потерять контроль над системами, достаточно мощными, чтобы учиться самостоятельно.

Проблема заключалась в том, что огромное количество людей, достаточно квалифицированных, чтобы решить все эти проблемы, уже работали в Google (и в Facebook, и в Microsoft, и в Baidu, и в Twitter). И никто из сидящих за столом был не уверен, что их можно заманить в стартап, даже несмотря на то, что за этим стояли Маск и Альтман. Но по крайней мере один ключевой игрок был открыт идее покинуть корабль. «Я знал, что рискую. Но еще я знал, что будет очень интересно попробовать», — вспоминает Суцкевер.


Разрывая порочный круг

Приободренный беседой с Маском, Альтманом и другими в Rosewood, Брокман вскоре решил построить лабораторию, как и планировалось. Принимая постоянное участие в проекте, он пообщался с Йошуа Бенджио, программистом Монреальского университета и одним из отцов-основателей глубинного обучения. Два других пионера этой области — Джофф Хинтон и Ян Лекун — теперь работают в Google и Facebook соответственно, но Бенджио предан жизни в научных кругах, которая, по большей части, не входит в круг интересов промышленности. Он составил список лучших исследователей в этой сфере деятельности, и в течение следующих нескольких недель Брокман вместе с коллегами выудил столько людей из списка, сколько смог.

Грег Брокман, один из отцов-основателей OpenAI и директор по технологиям. Фото: Кристи Хемм Клок / WIRED

Грег Брокман, один из отцов-основателей OpenAI и директор по технологиям. Фото: Кристи Хемм Клок / WIRED

Многим из исследователей понравилась эта идея, но они осторожничали. В попытке разорвать порочный круг Брокман выбрал десять исследователей, которых он больше всего хотел видеть в проекте, и пригласил их провести субботу за вином, обедом и разговорами, полными лести, на винодельне в долине Напа. Для Брокмана сама поездка в Напу была катализатором проекта. «Недооцененный способ объединить людей — поставить их в положение, когда нельзя ускорить путь до туда, куда вы едете. Вам придется туда добираться, и вам придется говорить», — объясняет он. И добравшись до района виноградников, они сохранили эту особую атмосферу. «Один из тех дней, когда можно сказать, что химия взяла свое», — пояснил Брокман. Или, как выразился Суцкевер, «вино было вторично по сравнению с беседой».

В завершение дня Брокман предложил каждому из десяти исследователей присоединиться к проекту и дал три недели на раздумья. К концу этого срока девять из них были в деле. И они остались, несмотря на крупные предложения от гигантов Кремниевой долины. «Они сделали так, чтобы мне захотелось остаться, поэтому это было непростое решение», — рассказывает Суцкевер о Google, своем бывшем работодателе. — Но в конце концов я решил присоединиться к OpenAI, частично из-за очень сильной команды, а в значительной степени — из-за их миссии».

Продвижение в глубинном обучении началось в учёных кругах. Только недавно компании вроде Google, Facebook и Microsoft вышли на поле, после того, как увеличение чистой вычислительной мощности компьютеров сделало нейронные сети реальностью, а не просто теоретической возможностью. Такие люди, как Хинтон и Лекун, ушли из университетской среды в Google и Facebook из-за огромных ресурсов, которыми располагают эти компании. Но они продолжают активно сотрудничать с другими мыслителями. Более того, исследования глубинного обучения требуют свободного обмена идеями, объясняет Лекун. Он утверждает: «Когда вы тайно занимаетесь исследованиями, вы отстаете».

Это привело к тому, что теперь крупные компании обмениваются большим количеством результатов их исследований ИИ. Это серьезные перемены, особенно для компании Google, которая долго держал ключевые технологии своей онлайн-империи в тайне. Недавно Google открыли для общего доступа программное обеспечение, управляющее его нейронными сетями. Но компания все еще движется по кратчайшему пути в этой гонке к будущему. Брокман, Альтман и Маск все еще продвигают свои взгляды на открытость, поясняя, что не хотят, чтобы одна или две огромные корпорации контролировали будущее искусственного интеллекта.


Пределы открытости

Все это звучит отлично. Но при всем идеализме OpenAI исследователи могут обнаружить, что вынуждены идти на те же компромиссы, что и на старой работе. Открытость имеет свои пределы. И видение долгосрочных перспектив ИИ — не единственный интерес в игре. OpenAI — не благотворительность. Компании Маска могли внести огромные вклады в работу стартапа, как могли и компании, обеспеченные Y Combinator Альтмана. «Определенно, существуют некоторые соревновательные цели. Это не приносит прибыли, но, тем не менее, очень близко связано с Y Combinator. И людям платят так же, как если бы они работали в индустрии», — признается Лекун.

Согласно Брокману, в лаборатории нет таких астрономических зарплат, которые получают исследователи ИИ в местах вроде Google и Facebook. Но он утверждает, что в лаборатории хотят «хорошо им платить» и предлагают компенсировать это пакетами акций, во-первых, Y Combinator, и, возможно, SpaceX (которая, в отличие от Tesla, все еще является частной компанией).

Тем не менее, Брокман настаивает на том, что OpenAI не будет ставить свои сестринские компании в привилегированное положение. OpenAI — исследовательская платформа, а не консалтинговая фирма, утверждает он. Но под давлением он признает, что идеалистические взгляды OpenAI имеют свои пределы. Компания может не выставлять в открытый доступ все, что создает, хотя будет стараться делиться большинством своих исследований немедленно, посредством написания научных статей или через интернет-сервисы.

«Проведение всех исследований в открытую — не обязательно наилучший способ ведения дел. Вы хотите выносить идею, увидеть, к чему она идет, и затем опубликовать ее. Мы будем выкладывать много кода в открытый доступ. Но у нас все еще есть много вещей, которые мы не готовы представить»

И Суцкевер, и Брокман также добавляют, что OpenAI может дойти до того, что запатентует какую-то из своих наработок. «Мы не будем ничего патентовать в ближайшее время. Но мы готовы изменить изменить долгосрочную тактику, если решим, что так будет лучше для мира», — говорит Брокман. Например, по его словам, OpenAI может выпустить патент для права преимущества — особая тактика для предотвращения получения патента другими.

Но для некоторых патенты означают стремление к прибыли — или, по крайней мере, к меньшей открытости, чем та, которую исповедуют основатели OpenAI. «Это суть патентной системы. Это заставляет меня задуматься о том, к чему же они на самом деле стремятся», — утверждает Орен Этциони, исполнительный директор Института искусственного интеллекта им. Аллена


Проблема сверхразума

Когда Маск и Альтман представили OpenAI, они также описали проект как способ нейтрализовать угрозу вредоносного икусственного сверхразума. Конечно, такой сверхразум может появиться из технологий, создаваемых OpenAI, но они настаивают на том, что любая угроза будет нивелирована тем, что технология будет общедоступной. «Мы считаем очень вероятным то, что множество ИИ смогут предотвратить единичные плохие намерения», — говорит Альтман.

Но не все в отрасли купились на это. Ник Бостром, профессор философии Оксфордского университета, предупреждавший, как и Маск, об опасностях ИИ, указывает на то, что в случае распространения исследований без ограничений, их могут злонамеренно использовать еще до того, как подтвердится их безопасность. «Если бы у вас была кнопка, которая могла бы делать плохие вещи миру, вы бы не захотели давать ее каждому», — говорит Бостром. С другой стороны, если OpenAI решит задерживать результаты исследований, чтобы уберечь их от «плохих парней», Бострому интересно, чем же этот проект отличается от Google и Facebook.

Он утверждает, что некоммерческий статус OpenAI может изменить положение вещей — но необязательно. Настоящая мощь проекта, по его словам, в том, что он как раз может послужить проверкой для Google и Facebook.

«OpenAI может уменьшить возможность того, что сверхразум будет монополизирован, и убрать одну возможную причину того, почему какая-то организация или группа будет иметь значительно лучший ИИ, чем все остальные»,

— полагает Бостром

Но, как философ объясняет в недавней заметке, основной эффект OpenAI — платформы, намеревавшейся свободно делиться своей работой с миром — в том, что она ускоряет прогресс искусственного интеллекта, по крайней мере, в краткосрочной перспективе. OpenAI может ускорить прогресс и в долгосрочном плане, если по альтруистическим причинам будет «поддерживать более высокий, чем коммерчески оптимальный, уровень открытости».

«То, что филантропично настроенный спонсор НИОКР (научно-исследовательских и конструкторских работ — прим. Newочём) ускорит прогресс, поддерживая открытую науку, звучит довольно правдоподобно», — говорит он.


Как Xerox PARC

В начале января девять исследователей Брокмана встретились в его квартире в Мишен-Дистрикт, Сан-Франциско. Проект был настолько новый, что у них даже не было (представьте себе!) доски для записей. Они купили пару таких в тот же день и принялись за работу.

Брокман рассказывает, что OpenAI начнет с исследования обучения с подкреплением — способа, в рамках которого машины изучают задания, повторяя их снова и снова, и отслеживая, какие методы дают лучшие результаты. Но другая цель — то, что называется «неконтролируемое обучение» — создание машин, которые действительно могут обучаться самостоятельно, без помощи человека. Сегодня глубинное обучение проводится на основании тщательно выверенных данных. Если вы хотите научить нейронную сеть распознавать фотографии кошек, вы должны скармливать ей примеры этих фото — и примеры должны быть помечены как фото с кошками. Обучение проводится с помощью людей, которые помечают фото. Но как и многие другие исследователи, OpenAI направлена на создание нейронной сети, которая может обучаться без маркированных данных.

«Если у вас есть действительно хорошая технология неконтролируемого обучения, машины будут способны обучаться всему через Интернет — как и люди обучаются, оглядываясь вокруг — или читая книги»,

— объясняет Брокман

Он видит OpenAI как современное воплощение Xerox PARC — технологическую исследовательскую лабораторию, которая процветала в 70-е года прошлого века. Как по большей части открытые и свободные исследования PARC дали развитие всему: от графических пользовательских интерфейсов у лазерных принтеров до объектно-ориентированного программирования, так и Брокман со своей командой стремятся еще глубже погрузиться в то, что мы когда-то считали научной фантастикой. Да, PARC принадлежала Xerox, но этот проект спонсировало множество других компаний, в первую очередь Apple, потому что такие люди, как Стив Джобс, были причастны к этим исследованиям. В OpenAI Брокман хочет, чтобы каждый был причастен к их исследованиям.

В этом месяце, надеясь поддерживать эту динамику как можно дольше, Брокман и компания затащили к себе еще несколько заметных исследователей, включая Иэна Гудфеллоу, еще одного бывшего старшего исследователя из команды Google Brain. «Особенностью PARC было то, что они собирали вместе кучу умных людей и предоставляли их самим себе. Всем нужна общая идея без централизованного управления».

Отказ от управления — суть идеи открытых источников. Если достаточное количество людей приложат усилие к достижению общей цели, конечный результат будет на голову выше, чем все, что вы можете выдумать тайно. Но если ИИ станет таким могущественным, как нам обещают, это уравнение изменится. Для начала мы должны убедиться в том, что новые ИИ будут придерживаться тех же идеалов, что привели к их созданию. Маск, Альтман и Брокман полагаются на свою веру в мудрость толпы. Но если они правы, однажды толпа будет состоять не только из людей.

Автор: Кэйд Метц.
Оригинал: Wired.

Перевели: Денис Чуйко и Денис Пронин.
Редактировали: Роман ВшивцевЕвгений Урываев и Артём Слободчиков.