Роботы могут начать войну

Илон Маск назвал искуственный интеллект главной угрозой человечеству.

Сооснователь SpaceX, Tesla и целого ряда других компаний призвал государства срочно взяться за разработку законов для сферы искусственного интеллекта.

Согласны ли с миллиардером, построившим состояние на инновациях, российские участники рынка?

«Искусственный интеллект является основной угрозой, с которой человечество сталкивается как цивилизация», — приводит цитату журнал Fortune.

«Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией. Перо сильнее меча», — предостерегает Маск.

Звучит пугающе, конечно. Добавить в кадр осознавшие себя ядерные беспилотники, держащие в страхе мировых лидеров, и блокбастер получится. На самом деле, это стандартный алармистский подход к прогрессу в IT, комментирует Роман Душкин, директор по науке и технологиям проекта «Джейн», который занимается разработкой умной программы-доктора для помощи врачам-людям.

Роман Душкин директор по науке и технологиям проекта «Джейн»« Сегодня под термином «искусственный интеллект» понимается две совершенно разные вещи. С одной стороны, то, о чем говорит Илон Маск, — это как бы сильный искусственный интеллект. Существо, которое осознает себя внутри компьютерных сетей, и у него будет разум. И если такое произойдет действительно, мы даже не успеем рыпнуться, когда оно станет намного, в тысячу, в миллионы, в миллиарды раз умнее всего человечества вместе взятого.

И думать о том, что такое сверхинтеллектуальное существо будет обращать внимание на каких-то людишек, копошащихся в грязи на планете Земля, — это сложно.

А с другой стороны, термин «искусственный интеллект» предполагает просто набор технологий, которые сегодня используются в машинном обучении: эволюционные алгоритмы, искусственные нейросети и так далее. Если так вот где-то на 30 лет назад переместиться мысленно и показать человеку на улице современный смартфон с современной картой города, с возможностью построить маршрут от точки А в точку Б с любым транспортом, то человеку 30 лет назад это показалось бы немыслимым, и он бы сказал: «Конечно, эта система интеллектуальна». Но сегодня мы ее уже не воспринимаем интеллектуальной».

При этом регулирование искусственного интеллекта однозначно необходимо. Маск сгущает краски, причем не в первый раз, в прошлом году он делал примерно такое же заявление, но в благих целях. Одна из главных угроз искусственного интеллекта — автоматизация все большего числа областей экономики.

/www.bfm.ru