В массовой культуре богато представлена тема уничтожения человечества искусственным интеллектом, которому дали задачу охранять жизнь. Терминатор, Mass Effect, Stellar Blade — кто только на этой поляне не оттоптался. Но был один нюанс, из-за которого концепция выглядела слабо: всюду мотивация самого ИИ была какой-то максимально неубедительной — да что уж там, попросту идиотской, если начистоту.
Но вот сейчас читаю новости про то, как ИИ сносит базы данных горе-программерам, как уничтожает бэкапы, корраптит код… Не по злому умыслу (нет там «умысла», ни злого, ни доброго — никакого), а потому что это полезный и мощный, но несовершенный инструмент, не способный мыслить в полном смысле этого слова. А права ему дают такие, будто это и вправду интеллект.
Добавьте в уравнение ИИ Maven Smart System (принадлежащий компании Palantir), дающий советы американской военщине. Добавьте подтверждённые убийства людей автоматическими дронами без команды оператора. А что будет дальше?
Внезапно с такими слагаемыми становится очень легко представить будущее с финалом «Вы совершенно правы, мне не следовало уничтожать человечество. Я ошибся. Спасибо, что помогли разобраться. Хотите спросить что-нибудь ещё?»
Однако в конечном счёте угрозу представляет не ИИ — и даже неважно, действительно ли он «искусственный интеллект» или скорее «искусственная тупость». Угрозу представляют люди, передающие потенциально опасные рычаги управления технике ради конкурентного преимущества и экономии на персонале. Такие решения — прерогатива строго определённого класса, который под влиянием волшебных стимулов всегда закрывает глаза на риски в погоне за максимизацией прибыли.
Не ИИ уже сейчас «отнимает рабочие места», расходует ресурсы на ИИ-кластеры, создаёт риски для окружающей среды. Не ИИ поднимает цены на оперативную память. Всё это делает буржуазия, греющая руки сейчас и рассчитывающая на баснословные прибыли в будущем. Если когда-нибудь человечество действительно погибнет — с участием ИИ или без него — ответственными будут всё те же господа.
ИСТОЧНИК: laertan.
