Директор IT-школы в Якутске: "Илон Маск - параноидальный гений"
Недавно Илон Маск, сооснователь Apple Стив Возняк и более тысячи экспертов подписали открытое письмо с призывом приостановить обучение нейросетей из-за рисков. В нем утверждается, что технологии с искусственным интеллектом, сопоставимым человеческому, могут представлять значительный риск обществу и человечеству:
— (...) Мы должны спросить себя: стоит ли нам позволить машинам заполонить наши информационные каналы пропагандой и ложью? Стоит ли нам автоматизировать все профессии, включая те, что приносят удовлетворение? Стоит ли нам разрабатывать умы, которые не принадлежат человеку и которые могли бы в итоге превзойти нас численностью и умом, сделать нас неактуальными и заменить нас? Стоит ли нам рисковать потерей контроля над цивилизацией? Мощные ИИ-системы должны разрабатываться лишь при условии того, что человечество будет уверено, что их воздействие будет позитивным, а риски — управляемыми, отмечается в письме. В связи с этим подписавшиеся призвали все ИИ-лаборатории немедленно приостановить обучение ИИ-систем, более мощных, чем модель GPT4, как минимум на полгода. «Эта пауза должна быть публичной, ее исполнение должно поддаваться проверке, и ей должны последовать все ключевые представители сферы. Если такая пауза не может быть быстро введена, правительства стран должны выступить и установить мораторий», — отметили эксперты. При прочтении этого сообщения сразу вспоминаются фильмы-фэнтези «Матрица» и «Терминатор», становится немного жутковато, и начинаешь подозрительно посматривать в сторону умного пылесоса: а вдруг он накинется и защекочет до смерти своими щеточками? Может ли такое случиться, мы поговорили с Алексеем ИЛЛАРИОНОВЫМ, директором айтишколы. Он сразу предупредил, что является сторонником развития нейросети.
— Почему?
— Это просто прогресс, он неизбежен. Вспомните, в истории человечества время от времени случаются революции, к примеру, промышленная.
— А, когда в Англии ткачи станки разбивали!
— Да. Понимаете, мы долгое время думали, что дошли до вершины прогресса и будем развиваться теперь горизонтально. Однако сегодня мы наблюдаем новый виток научно-технического прогресса в виде развития ИИ, и то, что я вижу сейчас, всё это было и в прошлом, один в один. Изобрели печать, стали выпускать газеты — все, скоро конец миру! Также реагировали на радио, телевидение и так далее. Панические настроения, стенания о прошлом, где все было идеально — все повторяется. Но странно слышать это от людей, которые в свое время выступали за то, что компьютеры должны поменять все. Пришло время, наступил новый этап развития, и вдруг оказывается, что это плохо, что оно разрушит весь мироуклад.
— А это не так?
— В том, что развитие ИИ разрушит мироуклад, сомневаться не приходится, это само собой, как и любая другая революция, все очень сильно изменится.
— То есть сейчас мы живем в революционное время?
— Да, во всех смыслах причем.
— Что произойдет? Люди станут не нужны, все 8 млрд?
— Это вряд ли. Изменятся операции, которые мы когда-то считали сугубо своей территорией (человеческой), они будут автоматизированы. К примеру, лет двадцать назад было слегка утопично считать, что бухгалтерский отчет может делать компьютер. Там же нужно было сверять много цифр, ручками исправлять, прописывать, что к чему. А сейчас есть автоматизированные системы, которые проводят полный бухучет. То есть очень многие профессии будут видоизменены, они уже преобразовываются. Если рассматривать ИИ как угрозу в том плане, что он отнимет рабочие места, то это обоснованно.
— Да, это так. Где сейчас ткачи, которые вручную делали ткань?
— Тогда их заменили станки. Вот и сейчас поменяется в принципе то, как мы работаем. Допустим, журналистика.
— Ой, что с ней будет?
— Она меняется, согласитесь? Если раньше журналист тратил много времени на сбор и анализ информации, то сейчас это стало намного проще. Нужно сделать запрос в ChatGPT (к примеру, количество жилого фонда с таким-то процентом износа в таком-то городе с такого-то и по такой-то период) — и он вам выдаст уже структурированную информацию со всеми выкладками. Но это не говорит о том, что ИИ заменит журналистов, он просто поменяет формат работы. Но, с другой стороны, возможности ИИ сильно преувеличены. Начнем с того, что сам термин «искусственный интеллект» — просто маркетинговый ход.
— В каком смысле?
— Это же не интеллект. На мой взгляд, базовое свойство интеллекта — это способность создавать новое на основе уже имеющихся фактов. Однако компьютер, каким бы мощным он ни был, имея базовые знания (весьма возможно, во много раз больше, чем у человека), он не умеет синтезировать новые знания и в обозримом будущем не сможет этому научиться. ИИ (условно «интеллект») может всего лишь реализовывать алгоритмы, которые в нем заложили программисты. И не может придумать что-то новое, хотя внешне кажется, что вот же, он сам что-то сделал свое. Взять ту же нейросеть Midjourney (это ИИ, который преобразует текст в изображения). Если сделать в ней запрос — нарисуй мне то-то и то-то, — он выдаст результат, и покажется, что он с нуля создал картинку. На самом деле нет, он обучен на огромной базе, скажем так, в миллионы рисунков и использует их для ответа на ваш запрос. Не обучив предварительно, вы не можете попросить машину что-то сделать. Так что об интеллекте речь не идет.
— Интересно, почему же Илон Маск против дальнейшего обучения нейросети?
— По-моему, в принципе нельзя воспринимать заявления Маска в отрыве от контекста. Первый, очень важный — это то, что Илон Маск является параноидальным гением. Это его качество позволило ему добиться своих сверхцелей. Все, кто с ним работает, отмечают то, что он вникает в каждую задачу до самой сути. Идет, к примеру, по стройплощадке и знает, как устроена стартовая площадка до последнего болтика, больше, чем даже исполнители. У него так устроен мозг. Обычный руководитель видит общую картину, а Илон Маск — всё в деталях. Это очень полезное качество, но дано далеко не многим. Второй контекст. У Маска компании строятся на его личности как на публичной фигуре. Он может что-то сказать в каком-либо интервью, и акции «Теслы» взлетят вверх или упадут. То же самое может быть из-за одного-единственного опубликованного Маском твита. Так уже было несколько раз. У Маска, как мне кажется, ярко выражена потребность постоянно находиться в инфополе. Третий контекст, на мой взгляд, это то, что он в свое время был одним из инвесторов компании «ОупенИИ», которая занималась развитием искусственного интеллекта. До 2018 года, потом у них произошли какие-то разногласия, и он ушел оттуда. Так вот, сейчас Маск основал еще одну компанию (вот буквально в марте зарегистрировал), которая будет заниматься именно развитием ИИ. Довольно интересно, не так ли?
— То есть весьма может быть, что подтекст письма таков: прекратите развивать ИИ, подождите меня!
— Очень возможно, так как, учитывая все вышесказанное, можно предположить, что позиция Илона Маска выглядит так: я двигаю прогресс, прогресс — это я, так почему без меня развивается ИИ? Ну это так, сугубо мое личное мнение.
— Алексей, но письмо подписали очень многие люди... Юваль Ной Харрари, к примеру (один из самых влиятельных интеллектуалов в мире, автор книги «Краткая история человечества»).
— Они подписали это письмо потому, что развитие ИИ ударит по рабочим местам, многие отрасли будут автоматизированы. Если раньше мы говорили о низшем квалификационном уровне (к примеру, робот-уборщик), то сейчас под угрозой и креативный класс, представители которого до недавнего времени считали себя неуязвимыми. А для кого-то выступать против развития ИИ является частью политической гонки. Я лично всегда скептически отношусь к тому, когда кто-то выступает против чего-то. Разный контекст может быть... К тому же развитие ИИ просто неизбежно, это все равно что ломать станки. Локально может помочь на некоторое время, но глобально прогресс не остановить.
— Говорят, что ИИ уже нанял человека для решения какой-то задачи. Как вы это прокомментируете?
— Это преувеличение. Есть биржа, где можно нанять кого-то для исполнения некой задачи. Человек (подчеркиваю, человек) разместил там объявление, которое сгенерировал с помощью ChatGPT, что-то вроде того: мол, не могу пройти капчу на сайте «Я — не робот». Ну, знаете, картинки там всякие, на которых надо что-то найти. Откликнулся пользователь: «А вы что, робот?». Подавший объявление снова загрузил этот вопрос в нейросеть и получил ответ: «Нет, я старый человек, мне сложно рассматривать картинки».
— Ага, вот оно и начинается: ИИ уже научился обманывать! Разве не так?!
— Нет, конечно. Чтобы стало понятно, разъясню. Вы пишете в телефоне сообщение, и там есть функция подсказки: к одному слову предлагается несколько вариантов. Вы выбираете подходящее, и к нему также даются подсказки, подходящие по смыслу. И это только телефон! А ChatGPT — это то же самое, только у него миллионы и миллионы вариантов, он обучен на огромной базе текста, поэтому создается видимость того, что он пишет осознанные тексты. На самом деле это не так. Его тексты часто не являются истиной, ошибочны, и не потому, что он глупый или, там, коварный. У него нет рассуждения, он просто берет слово и подбирает к нему следующее. Если вышло так, что, допустим, третье слово будет чуть отклоняться от истины, то с каждым последующим словом коэффициент ошибки будет увеличиваться.
— Но если мы автоматизируем все и вся, то рухни интернет в результате какой-нибудь глобальной катастрофы, что тогда?
— Тогда ИИ будет последним, о чем мы будем заботиться. Будут проблемы намного важнее.
— Мне не нравится развитие ИИ потому, что в свое время (да и сейчас) было немало фильмов о восстании машин. Говорят же, что идеи имеют обыкновение материализовываться.
— Понимаете, чтобы поднять восстание и тому прочее, нужно сознание, у машины его нет. А почему? Потому что мы, люди, сами до сих пор не знаем, что это такое, когда оно возникает и почему. Как только мы это поймем и вложим его в компьютеры, то тогда можно будет опасаться восстания. Хотя, конечно, его может с помощью нейросети поднять и гений-злодей, однако без человеческого участия не обойтись.
— Спасибо, Алексей, за беседу! Надеюсь, еще долго человечество не поймет, что такое сознание, пусть это останется загадкой.
Ирина ЕЛИСЕЕВА.
Фото:https://www.ixbt.com