Бояться или нет искусственного интеллекта?

Может ли развитие высоких технологий стать гибелью для человечества?


Современный мир пугает темпом своего развития. Искусственный интеллект потихоньку пробирается во все сферы человеческой жизни. Виртуальные личные помощники (Сири; Алиса), онлайн поддержка клиентов, видеоигры, даже беспилотные авто стали выезжать на дорогу. Неужели ещё чуть-чуть - и в жизнь воплотится сюжет фильма «Терминатор»?

18 марта этого года произошла первая авария со смертельным исходом с участием беспилотного автомобиля. Машина американской компании Uber Technologies насмерть сбила 49-летнюю женщину. На данный момент в этой трагедии нет виновного, так как многие детали неизвестны, а судебное разбирательство ещё не подошло к концу.

Авария вызвала общественный резонанс. Людей, которые негативно относятся к искусственному интеллекту (ИИ), стало значительно больше. Всё чаще стал подниматься вопрос: «Несёт ли ИИ смертельную угрозу для человечества?».

Беспилотные автомобили
Сначала, думаю, стоит разобраться с беспилотными авто. Преимущество автопилота перед водителем в том, что он не отвлекается, не засыпает, не имеет слепых зон и всеми силами попытается избежать аварии, но, если она неизбежна, постарается минимизировать ущерб, если это возможно. Какой ущерб будет считаться минимальным, к сожалению или к счастью, это выбираем мы сами. Например, как в мыслительном эксперименте под названием «Проблема вагонетки».

Вы прогуливаетесь вдоль железной дороги и, неожиданно для себя, видите, что вагонетка мчится на полной скорости в сторону пятерых человек. Она не сможет вовремя затормозить. Вдруг вы замечаете рядом с собой рычаг, который направит её по другой линии, но в этом случае она собьёт одного человека. Что вы сделаете?



На этот вопрос нет правильного ответа. То же самое происходит и в дорожных авариях. За доли секунд водитель должен решить: спасти ему себя или незнакомого человека. А что должна сделать в этом случае машина? Спасти клиента или другого человека? Если другого человека, то кто купит машину, которая запрограммирована убить водителя, если его смерть спасёт других? Этот сложный вопрос решается с помощью опроса на таких сайтах как «moralmachine». На этой платформе обычные люди учат искусственный интеллект тому, что хорошо, а что плохо.

Как работает искусственный интеллект?
Нейросети (математическая модель, построенная по принципу функционирования биологических нейронных сетей), диплёрнинг (обучение ИИ с использованием нескольких слоёв нелинейной обработки), бустинг (процедура последовательного построения композиции алгоритмов машинного обучения) – последние пять лет эти слова звучат всё чаще, а специалисты в сфере IT (информационные технологии) становятся более востребованными. Машинное обучение вошло в моду. Но как оно вообще появилось?



Можно сказать, что основа искусственного интеллекта зародились в VIII веке, с теоремы Байеса. Наипростейшая версия его теоремы звучит так: изначальная вера + новые свидетельства = новая, улучшенная вера. По этому принципу работает вся математика нейросетей. «Марк-1» – это первый нейрокомпьютер. Фрэнк Розенблатт создал его в 1958 году на основе своей кибернетической модели мозга под названием «Перцептрон». Его работа заключалась в трёх стадиях. Рецепторы принимали сигнал, точно так же как это делает наша сетчатка глаза, и передавали дальше нейронам. Те, в свою очередь, суммировали все сигналы и отправляли их в классификаторы.

Каждому образу, фигуре, цифре соответствовал свой классификатор. Сила связей в процессе обучения постоянно менялась. Связи, приводящие к правильному решению, усиливались, а к неправильному – ослабевали.

Сейчас для компьютера определить цифру, букву или геометрическую фигуру не составляет труда, потому что в 2000-х появились мощные видеокарты, да и наука за это время продвинулась вперёд. Однако, принцип остаётся таким же.

Систему обучения машин можно сравнить с процессом познания у живого существа. Когда ребёнок дотронется до раскалённой плитки, он поймёт, что это больно и потом вряд ли захочет повторять этот опыт. Точно также работает система обучения искусственного интеллекта, только для того, чтобы машина поняла, что плитка опасна, ей потребуется до неё дотронуться не один и не сотни раз, а миллионы.



Это, кстати, является главной причиной, почему ИИ никогда не сможет поработить человечество. Для того, чтобы просчитать все возможные варианты событий, машине потребуется чуть больше времени, чем просуществует человечество. Солнце станет красным гигантом и сожжёт землю гораздо раньше, чем это случится. Так что бояться восстания машин стоит в последнюю очередь.

Чего стоит бояться?
Если искусственный интеллект чему-то всё-таки научился, то он быстро превосходит в этом человека. Все слышали о том, что компьютер победил чемпиона в шахматах. Но есть игра Го, она гораздо труднее шахмат. Считалось, что она слишком сложная для программы, так как возможных ходов в ней гораздо больше, чем атомов во вселенной. Тем не менее, программа «AlphaGo» победила Кэ Цзе, сильнейшего в мире игрока в прошлом году.



Кроме игр нейросети уже многому научились. Они могут обрабатывать фото, убирая с него шум (дефект изображения), писать музыку, имитируя стиль старых композиторов. Одна из нейросетей даже записала свой рэп-альбом. Удивительно, но это сделал российский виртуальный голосовой помощник «Алиса». Послушать альбом можно на сайте «Яндекс.Музыка».

ИИ даже попытался написать полноценную статью. Корреспонденты британского журнала «The Economist» провели эксперимент, чтобы узнать сможет ли машина полноценно заменить их. Они загрузили в нейросеть свои публикации, чтобы та на их основе написала статью. Получилась «грамотная бессмыслица». В итоге журналисты вздохнули с облегчением, ведь ещё пару-тройку лет сокращение им не грозит. Единственная проблема, которая грядёт с развитием технологии нейросетей – безработица. Но это тоже не слишком большая беда. То же самое произошло в эпоху индустриализации. Механизмы отняли работу у людей, но вместе с тем подарили им новые профессии. Это, скорее всего, и будет происходить в ближайшем будущем. Поэтому проблема состоит лишь в том, насколько быстро человечество адаптируется к новым условиям.

Все материалы рубрики "Темы"

 

Руслан Симушин
«Читинское обозрение»
№30 (1514) // 25.07.2018 г.


Вернуться на главную страницу

 

Обсуждение
Оставить комментарии

Имя:*

E-mail:

* - поля, обязательные для заполнения

Ваши комментарии:*

НЕ ПРОПУСКАЮТСЯ:
оскорбления, маты, обвинения в преступлениях и право- нарушениях, подробности личной жизни (журналистов, авторов, героев публикаций).
ДЛЯ СВЯЗИ
c редакцией можно указать свой телефон, email (эта информация не публикуется).