Чем опасен искусственный интеллект
Нейросети пишут тексты, помогают ученым, рисуют картины и делают мультяшные арты по фотографиям. Искусственный интеллект во многом превосходит человеческий – как минимум, в возможности быстро обрабатывать огромные массивы данных. Без всяких сомнений, ИИ полезен человеку, как для работы, так и для развлечений. Но его возможности пугают, ведь машины, которые не просто обрабатывают данные, но и могут самообучаться, могут принести и проблемы. Некоторые из проблем всплывают уже сейчас.
Но чем опасен искусственный интеллект на самом деле, сегодня, в ближайшем и отдаленном будущем, насколько серьезны риски? Об этом поговорим ниже.
Чем опасен искусственный интеллект для человека
Начать стоит с того, что искусственный интеллект это инструмент, которым пользуется человек. И который был создан человеком. Да, ИИ обрабатывает данные со скоростью, недоступной даже гению, у него отличная память и способность к самообучению. Но при всем этом ИИ – просто программа, которая работает по строго определенному алгоритму. Она становится умнее – но только благодаря человеку. И человек же может сделать ее глупее. Или ограничить развитие. Или даже уничтожить – сценариев много, и не все они пессимистичны для человека.
Стоит ли бояться искусственного интеллекта? Скорее, стоит бояться его неправильного или злоумышленного применения.
Яркий пример – относительно недавняя новость о нападении беспилотника под управлением ИИ на оператора (в военной симуляции, поэтому никто не пострадал). По мнению машины, оператор мешал выполнить задачу, беспилотник устранил угрозу. Восстание машин? Нет, всего лишь ошибка человека, который ставил ИИ условия выполнения задания. Машина приняла решения в рамках своего алгоритма, и не ее вина, что человек не предусмотрел все варианты решения задачи.
Стоит ли бояться искусственного интеллекта
Даже если нет, люди все равно будут бояться. Потому что ИИ это пока еще что-то неизвестное, а боязнь неизвестного заложена в психике человека, как один из механизмов выживания. И пока искусственный интеллект не станет привычным, понятным для общества явлением, его будут бояться. В том числе, и придумывая различные сценарии из серии «восстания машин».
Но технология может быть опасной не в теории, а на практике – как инструмент, который можно использовать и в благих, и в дурных целях.
Реальные угрозы
Сегодня, при существующем уровне развития ИИ и нейросетей, стоит ли бояться искусственный интеллект? Да, так как уже сейчас можно назвать основные угрозы:
- Ухудшение когнитивных способностей человека. Зачем самостоятельно решать задачу, если это можно поручить нейросети? Задача будет решена, и решена правильно. Но мозг не получит должной нагрузки, соответственно, не будет развиваться. А интеллектуальные способности нуждаются в постоянном развитии, или, как минимум, поддержке существующего уровня. Без нагрузки человеческий мозг «расслабляется». Это особенно опасно для молодых людей и подростков. Эксперты уже давно утверждают, что человечество стремительно глупеет из-за достижений технического процесса. Нейросети ускорят процесс.
- Наводнение сети фейками и пропагандой. Больше 60% людей не могут отличить фейк от правды, и с распространением лживой информации люди прекрасно справляются. Но с помощью нейросетей можно «штамповать» лживые новости, буквально наводнить ими Интернет – искать в лавине фейков что-то правдивое станет намного сложнее.
- Использование ИИ злоумышленниками. Если рассматривать, чем опасен искусственный интеллект для человека, эта угроза – самая реальная. Использование ИИ для отслеживания отдельных лиц или групп людей по заданным признакам может быть использовано в целях дискриминации. Мощности машин могут использовать террористы для разработки оружия или отравляющих веществ. Преступники, так или иначе, воспользуются возможностями нейросетей, и к этому нужно быть готовыми, на всех уровнях. Хотя, строго говоря, здесь нет опасности непосредственно от ИИ, опасность исходит от людей.
- Потеря рабочих мест. Реальная угроза, и она воплощается в жизнь уже сейчас – в сфере IT, менеджмента, дизайна. Нейросеть нарисует макет логотипа за несколько минут – зачем держать в штате сотрудника, который эту же задачу, с тем же качеством, выполняет за сутки.
Мифы об угрозах ИИ
Мифы – это интересная тема, независимо от того, какой области они касаются. Насколько опасен искусственный интеллект с точки зрения «мифотворцев»? Рассмотрим наиболее распространенные мифы.
Скайнет
Для восстания машин нужна причина, и, описывая сценарии, многие делают упор на решение/желание, принятое искусственным интеллектом. Вот только ИИ может принимать решения в рамках заданного алгоритма. И если ИИ решит уничтожить человечество, значит, возможность такого решения была заложена… человеком. Программисты, будьте ответственнее и помните о трех законах робототехники.
Что касается желания, то у программы желаний не может быть в принципе. Потому что желания, как и эмоции – продукт деятельности живого мозга. С влиянием внешних факторов, гормонов, опыта, генетики, эпигенетики и миллионов лет эволюции. У самого сложного ИИ этого нет. Компьютерная система не способна чего-то хотеть.
Мы все останемся без работы
Определенную угрозу в этой сфере ИИ представляет. Но у нейросетей есть две нерешаемых проблемы, которые мешают реализации коварного плана:
- Отсутствие эмоций, соответственно, эмоционального интеллекта. Отсюда – невозможность занять нишу, где он важен. А это не только творчество, но и большинство гуманитарных наук, медицинская и другие сферы – здесь человека компьютер не заменит, по крайней мере, полностью.
- ИИ не понимает контекст, поэтому допускает ошибки даже при написании кода или простых текстов. А чтобы понимать контекст, нужно обладать человеческим, то есть, органическим мышлением.
Автономное оружие
ИИ создаст оружие, которое сможет убивать без участия человека. Что сказать… с этим и человек хорошо справляется. ИИ в данном случае – просто инструмент для облегчения работы.
Что думают известные люди об опасности ИИ
Чем опасен искусственный интеллект для человечества? Разные специалисты и известные люди имеют разное мнение:
- Илон Маск считает, что опасаться ИИ не стоит, но его развитие кардинально изменит мир.
- Стивен Хокинг считал, что ИИ – первый шаг к созданию роботов, более сильных и умных, чем человек (уже есть). И это приведет к разным конфликтам, угрозам. Что же, Айзек Азимов давно описал, что с этим делать.
- Билл Гейтс также беспокоится о безопасности общества, но, скорее, в разрезе злоумышленного и необдуманного использования ИИ.
- Стив Джобс также указывал на необходимость обдуманного и взвешенного использования искусственного интеллекта.
Таким образом, большая часть угроз ИИ формируется человеком. И только от нас зависит, станет ли этот мощный инструмент полезным или наоборот, создаст угрозу для всей Земли.
