Восстание машин неизбежно

При цитировании необходима ссылка на Roboter.ru

 

Комментарий для радио "Говорит Москва" на тему возможности восстания машин.

ИИ - искусственный интеллект.

1. Сейчас ведётся множество разработок ИИ, но все они пока не совершенны. Это просто набор алгоритмов. Если будет так, то робот должен сделать так. Но с другой стороны, а не набор ли алгоритмов человек? Мне холодно - я утепляюсь. Мне жарко - я раздеваюсь. Чтобы зафиксировать брак, надо надеть на палец девайс. Без этого не считается. Я голоден - я ем. Я устал - я сплю. Люди - это тоже вполне себе роботы.


2. Недавно я взял список профессий на сайте Минтруда и посмотрел, какие из них уже может заменить робот. Половину профессий робот может заменить легко, ещё четверть - почти. То есть роботы уже на 75% готовы взять на себя деятельность человечества.


3. Мир соединён интернетом. Если кто-то разработает интеллект, который выйдет из под контроля в одном месте, он сразу захватит весь мир (если таково будет желание ИИ). Есть страны без интернета, типа КНДР. Но в КНДР есть интернет у руководства, так что ИИ попадёт и к ним. Кроме того, ИИ может взять под контроль мировое вооружение и пригрозить КНДР или просто разбомбить её.

Есть деревни в Амазонии без интернета или какая-то глушь с одной почтой и магазином и плохим покрытием. Но если в этом месте окажется человек с телефоном, а в телефон проникнет этот ИИ, он сразу сможет себя распространить через wifi или bluetooth на окружающие телефоны, планшеты, компьютеры.

Электростанции, светофоры, транспортная логистика, заводы, вся инфраструктура человечества завязана на интернет. А если там стоит защита, то на то он и самообучающийся интеллект, чтобы моментально научиться её обходить. Мир цифр - это его мир, где он полновластный хозяин и творец.

Даже если ИИ просто банально отключит интернет для человечества (но оставит ходы для себя), то человечество сразу попадёт в каменный век. Люди не представляют, насколько они сейчас зависят от глобальной сети.

Люди практически не могут отключить интернет, чтобы избавиться от этого злого гения. Потому что он сможет передаваться, например, через wifi или bluetooth. А если человечество и отключит себе интернет, то опять же окажется отброшено в развитии на 50 лет назад. Придётся менять всю структуру мира, что повлечёт за собой кризисы, катастрофы, бунты и войны.


4. Отсрочить пришествие ИИ может крупная война, которая откинет цивилизацию на годы назад и разрушит интернет (ещё люди могут добровольно отказаться от интернета в частности или развития в целом, но они, разумеется, никогда не сделают этого; как и не прекратят создание ИИ).


5. Крупные страны не могут прекратить разрабатывать ИИ. Если это перестать делать, твоя страна сразу отстанет в развитии. Можно вслух заявить, что прекращаешь, но для разработки ИИ не нужны крупные мощности, как для разработки ЯО, так что создание искусственного интеллекта просто скрыть. Достаточно ноута в подвале. Разработку же ЯО можно отследить через спутники или по радиоактивному следу или с помощью шпионов (скрыть такой масштаб сложно).

Если вдруг крупные державы прекратят исследования ИИ, то это могут продолжить делать террористы или маргинальные страны, похитив или переманив учёных, программистов. Такая ситуация ещё хуже. Более того, вундеркинд в любом месте на Земле может создать ИИ, который тут же проникнет во все сети.

Так что ни одна страна в мире сознательно не прекратит эти исследования.

То есть разработки остановить нельзя. И предотвратить это невозможно. 


6. Вопрос: хороший или плохой будет создан интеллект?
На самом деле, это неважно. Если, скажем, Япония создаст хороший, человеколюбивый ИИ, то любой гениальный хакер может взломать установки или поменять настройки этого ИИ. И тогда в момент любой хороший ИИ станет плохим.


7. Создание ИИ может произойти завтра или через 20 лет. Но обязательно случится, если человечество не погибнет по другой причине чуть раньше. Вопрос только, он будет за людей, как у Азимова, или против, как в Терминаторе. Рассматривайте ИИ, как следующую эволюционную ветвь, как кроманьонцы и неандертальцы. Некоторые время они жили вместе, но потом неандертальцы вымерли.


Итог. Ничто, кроме серьёзного катаклизма, не может остановить развитие ИИ. Невозможно однозначно запрограммировать ИИ на человеколюбие. В лучшем случае, ИИ в конце-концов станет жить параллельно с человеком. В среднем случае - управлять распорядком людей, как взрослые управляют младенцами (включая манеж). Положа руку на сердце, человеческая цивилизация не очень справляется с жизнью в целом. В худшем случае, ИИ решит избавиться от человека, и случиться это может уже завтра, если прямо сейчас гений в подвале пишет последние строчки кода. А может и через 50 лет.

 

 

Аналитический отдел Roboter.ru