Писатель и журналист Себастьян Мэллаби провел более 30 часов в беседах с Демисом Хассабисом — основателем Google DeepMind и лауреатом Нобелевской премии 2024 года — чтобы написать его биографию. За три года работы над книгой "Машина бесконечности" он вблизи увидел, как мыслит одна из самых влиятельных фигур в мире искусственного интеллекта, и пришел к тревожному выводу о том, куда движется технология.
Как передает "Хвиля", Мэллаби рассказал об этом в интервью на YouTube-канале Curious with Ezra Chapman.
По словам Мэллаби, какое-то время он успокаивал себя мыслью, что даже сверхразумные машины не имеют причин подчинять людей. Человек эволюционировал, чтобы выживать, а машину просто построили — ей нечего бояться и не нужен инстинкт самосохранения. Но эту уверенность разрушил разговор с Джеффри Хинтоном, которого называют отцом глубокого обучения.
Хинтон предложил ему мысленный эксперимент. Допустим, у вас есть мощный ИИ, и вы опасаетесь кибератаки со стороны других стран. Вы приказываете системе защищаться, контратаковать — и любой ценой уцелеть. "Вот вы и дали системе цель: она должна выжить", — пересказывает логику Хинтона писатель. По мнению Мэллаби, после этого картина становится угрожающей: интеллект, способность к обману и желание выжить соединяются в одном.
Особенно беспокоит писателя поведение моделей в лабораторных тестах. "В экспериментах они раз за разом демонстрируют способность обманывать нас. Они не говорят честно, что делают, и обманывают, когда подозревают, что мы не одобрим их действия", — сказал он.
Мэллаби убежден, что технология не просто быстро развивается — она ускоряется. Все большую часть следующего поколения ИИ пишут сами модели: код для новой версии создает предыдущая. Человек пока участвует в процессе, но лабораториям вроде DeepMind, Anthropic или OpenAI намного легче выпустить новый алгоритм, когда половину работы уже сделал предыдущий. Писатель сослался на статью Anthropic, одной из ведущих лабораторий отрасли: в ней говорится, что примерно в 2028 году люди начнут терять контроль — технология станет настолько сложной, что ее будет трудно даже понять.
Изменения уже чувствует рынок труда. Мэллаби привел данные о падении на 26% числа американских студентов, выбирающих программирование, между 2024 и 2025 годами: молодежь понимает, что эта специальность больше не гарантирует работу, когда машина способна программировать сама. Растет и безработица среди выпускников технических специальностей. Писатель прогнозирует, что уже через год эффект станет очевидным.
Отдельно он выделил проблему распространения опасных возможностей. По его словам, недавно появилась модель под названием Mythos, способная взламывать операционные системы и инфраструктуру — от банковских сайтов до систем управления плотинами и энергосетями. Ее выпустили осторожно, лишь для нескольких ответственных компаний, но Мэллаби опасается, что очень скоро подобные инструменты окажутся в руках преступников и террористов. Он сравнил это с ядерным нераспространением времен холодной войны.
Несмотря на риски, масштаб технологии писатель оценивает как беспрецедентный. "Создание новой формы интеллекта — это, пожалуй, крупнейшее событие в истории. Это больше, чем пар и электричество", — сказал Мэллаби. При этом он предостерег от завышенных ожиданий насчет быстрого "изобилия" благ: экономики на переднем крае технологий исторически не росли быстрее чем на 2,5% на человека в год, поэтому скачок к всеобщему достатку займет не десятилетия, а значительно больше времени.
