В продолжение темы выражения ведущими IT-корпорациями беспокойства по поводу бесконтрольного развития ИИ, способного уничтожить человечество. Вслед за уже бывшим ИИ-разработчиком Claude высказался и глава этой корпорации, к нему присоединились коллеги Сэм Альтман и Илон Маск.
Дарио Амодеи (гендиректор Anthropic) в своём экстренном программном эссе призвал мировое сообщество немедленно замедлить темпы разработки передовых моделей. Он предупредил, что из-за способности ИИ обучаться экспоненциально быстрее человека уже через 6–12 месяцев автономные сети ИИ-агентов смогут устроить «цифровой рой», способный парализовать глобальный интернет и нанести критический ущерб инфраструктуре.
Сэм Альтман (гендиректор OpenAI) впервые солидаризировался с конкурентами и подтвердил, что OpenAI рассматривает возможность искусственного сдерживания релизов. Более того, Альтман отменил планы по выходу OpenAI на IPO, заявив, что коммерческие обязательства перед инвесторами не должны мешать безопасности. Он прямо признал: рисковать будущим планеты ради прибыли недопустимо.
Илон Маск (глава xAI) поддержал призывы коллег, написав в своих соцсетях: «Дарио прав».
Но проблема в том, что всё это может оказаться всего лишь пиаром и попыткой обойти конкурентов на фоне красивых слов. На что указал в запрещённой в РФ соцсети американский предприниматель, IT-инвестор, близкий к команде Дональда Трампа, Дэвид Сакс:
— Дарио написал, что нам нужно «не торопиться», и Сэм с ним согласился. Возможно, мой ответ вас удивит: действуйте. Вы, ребята, и есть передовой рубеж. По любым разумным показателям — доля рынка, рост выручки, возможности моделей — вы двое являетесь дуополистами в области передовых интеллектуальных технологий.
Я не вижу того, что видите вы в своей лаборатории. Если вы считаете, что из-за пугающих возможностей ещё не выпущенных моделей вам стоит притормозить, я поддерживаю ваше ответственное решение. Но перестаньте делать вид, что вам нужно чьё-то разрешение.
Перестаньте делать вид, что антимонопольное законодательство нужно приостановить, чтобы вы могли создать картель.
Перестаньте делать вид, что вам нужен процесс получения разрешений от регулирующих органов, который отменяет ответственность за качество продукции. Перестаньте делать вид, что METR — независимая организация, хотя она тесно связана с инвесторами и сотрудниками Anthropic.
Перестаньте делать вид, что вам нужны те же эксперты для контроля за конкурентами, которые даже не являются передовыми разработчиками.
И самое главное, перестаньте делать вид, что стремление притормозить — это исключительно альтруизм. Если ваши продукты приведут к серьёзным последствиям в результате кибератаки, вы столкнётесь с огромными рисками, связанными с ответственностью за качество продукции. Рынок уже наказывает модели, которые ведут себя непредсказуемо или несанкционированно. После инцидента с Hugging Face для OpenAI и Anthropic было бы просто выгодно пожертвовать частью необработанных данных ради надёжности и предсказуемости.
Самый простой способ не создавать суперинтеллект — это договориться о том, что вы не будете его создавать. Требование создать предпочтительную для вас нормативно-правовую базу в качестве платы за это будет выглядеть как шантаж общественности, — отметил Сакс.
Всё сказано верно, но главная проблема в том, что они не остановятся. Потому как «нет такого преступления, на которое капитал не пошёл бы ради 1000% прибыли» (или как там звучит эта цитата). Простите за конспирологию, но полное ощущение, что процессом внедрения ИИ во все сферы рулят совершенно не человеческие сущности. Которых благополучие человечества заботит в самой небольшой степени. Если не сказать, что заботит, но только со знаком «минус». Так что будем наблюдать очередные тревожные звоночки.
