Марк Цукерберг меняет курс на открытый исходный код в AI?
Сегодня утром Марк Цукерберг опубликовал меморандум, в котором изложил свое видение создания AI «суперинтеллекта». В этом документе Цукерберг намекнул, что стремление к более мощному AI может потребовать от компании Meta* более избирательного подхода к открытию исходного кода.
Ссылаясь на «вопросы безопасности», он написал, что Meta* должна быть «строгой» в таких решениях. Эта строка вызвала у многих удивление, так как Цукерберг, который однажды сказал «fuck that» в ответ на закрытые платформы, всегда делал открытый исходный код центральным элементом стратегии AI в Meta*
Во время конференц-звонка по итогам второго квартала, Цукерберг признал возможность смены курса, хотя и преуменьшил её значимость. Вот что он сказал, когда его спросили, изменилось ли его мнение:
Я не думаю, что наше мышление особенно изменилось. Мы всегда открывали исходный код некоторых наших моделей и не открывали всё, что мы делали. Так что я ожидаю, что мы продолжим производить и делиться ведущими моделями с открытым исходным кодом. Я также думаю, что есть несколько тенденций, которые проявляются. Одна из них заключается в том, что модели становятся настолько большими, что их непрактично использовать другим, поэтому мы размышляем, насколько полезно и продуктивно делиться ими, или это в основном помогает конкурентам или чему-то подобному. Так что есть такая озабоченность.
И, конечно, когда мы приближаемся к настоящему суперинтеллекту, есть совсем другой набор вопросов безопасности, которые мы должны воспринимать очень серьёзно, о которых я писал в своей заметке сегодня утром. Но я думаю, что в конечном итоге я ожидаю, что мы продолжим открывать исходный код. Я ожидаю, что мы будем лидерами в этом, и я также ожидаю, что мы продолжим не открывать исходный код всего, что мы делаем, что является продолжением того, что мы делали ранее.
Это заметно отличается от того, что он писал почти ровно год назад в другом меморандуме под названием «Открытый исходный код AI — путь вперед». В той, ещё более длинной записке, он утверждал, что открытый исходный код важен как для Meta*, так и для разработчиков.
«Люди часто спрашивают, не беспокоюсь ли я о потере технического преимущества, открывая исходный код Llama, но я думаю, что они упускают главное», — писал он. «Я ожидаю, что разработка AI будет оставаться очень конкурентоспособной, что означает, что открытие исходного кода любой конкретной модели не даёт огромного преимущества над следующими лучшими моделями в тот момент времени».
Он также утверждал, что открытый исходный код безопаснее. «Существует постоянный спор о безопасности моделей AI с открытым исходным кодом, и моя точка зрения заключается в том, что AI с открытым исходным кодом будет безопаснее, чем альтернативы. Пока у всех есть доступ к аналогичным поколениям моделей — что способствует открытому исходному коду — тогда правительства и учреждения с большими вычислительными ресурсами смогут контролировать злоумышленников с меньшими ресурсами».
Чтобы быть точным, Цукерберг заявил, что компания будет продолжать открывать исходный код части своей работы. Но, похоже, он закладывает основу для будущего, в котором «суперинтеллект» Meta* может быть гораздо менее открытым.
* Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена.
Подпишитесь на новости в телеграм: https://t.me/itnewsros