Что нужно знать про искусственный интеллект?
Материал предоставлен сайтом Antony.work
При цитировании необходима ссылка на Antony.work.
Физик и математик Митчелл Файгенбаум определил ИИ так: «ИИ - разрабатывает интеллектуальные компьютерные системы обладающие возможностями, которые мы традиционно связываем с человеческим разумом: понимание языка, обучение, способность рассуждать, решать проблемы и т.д.»
В новостях и анонсах часто мелькает информация о тех или иных новых разработках умных машин, самообучающихся программ. Но не проводится их независимая экспертиза. Нам показывают робота Софию, которая якобы разговаривает самостоятельно. Возможно, и так. Но мы не можем в этом убедиться. Может за неё говорит удалённый оператор. А возможно — просто тонко настроенная программа. Есть роботы, совершающие телефонные звонки или отвечающие на запросы в службе поддержки. Они находят ответы или вопросы из своей базы данных, в которой чётко прописана реакция на любые слова человека. Эти программы не самостоятельны. Повторюсь, возможно робот София умна. Дайте кому-то поговорить с ней в комнате без любых волн и связей с внешним миром и записать это на камеру. Тому, кому люди доверяют. Кто не имеет отношения к разработчикам, рынку. Даже лучше, если это будет робоскептик. Проведите 10 таких показов. Пусть люди задают неожиданные вопросы обо всём. Вот это заставило бы поверить.
С древних времён, когда шахматный автомат выдавали за робота, а на самом деле в нём сидел человек, людей приучили сомневаться в достоверности изобретений в сфере ИИ.
Если бы произошло что-то по истине прорывное и революционное для гражданского использования, об этом сразу стало бы известно. Не мельком в сводке новостей недели, а громко и настойчиво. С массой аналитического материала и видеодемонстраций. Есть также и секретные разработки, и мы понятия не имеем, что уже создано там.
Исследование английской компании MMC Ventures «Состояние ИИ в 2019 году: дивергенция» демонстрирует, что из 2,8 тысячи европейских стартапов, которые декларировали специализацию на ИИ, только 1600 действительно занимаются ИИ. Остальные 1,2 тысячи лгут, «потому что компании сферы ИИ привлекают более значительные инвестиции и выше оцениваются».
Однако, есть существенные прорывы. Это, например, программа AlphaGo, уверенно побеждающая людей в игру го с 2016 года.
Го - сложная настольная игра, требующая помимо логики применение интуиции, творческого и стратегического мышления. В течение длительного времени обучить компьютерные программы играть в го на уровне сильного любителя было крайне сложно. По сравнению с шахматами, в го перед искусственным интеллектом ставится больше задач, решение которых требует имитацию мыслительного процесса человека.
В 1965 году математик Ирвинг Джон Гуд писал: «Го на компьютере? Для того, чтобы запрограммировать компьютер на осмысленную партию в го, а не просто партию по правилам, необходимо оформить принципы хорошей стратегии или создать самообучающуюся программу. Принципы игры в го качественнее и загадочнее, чем в шахматах, и больше зависят от оценочного суждения. Поэтому я полагаю, что создать компьютерную программу, разумно играющую в го даже намного сложнее, чем шахматную программу.»
AlphaGo основана на самообучении и нейросетях. Это узкопрофильный ИИ, не умеющий ничего другого. Но расширить сферу применения возможно, и разработчики сейчас занимаются этим. AlphaGo – один из наиболее перспективных предвестников будущего восстания машин.
Теперь надо определиться с терминологией, в которой у человечества пока пробел. Мы всё называем ИИ. Робот с датчиками препятствий и программной сменой настроений — ИИ. Автопилот ИИ. Программы для обработки информации — ИИ. И, главное, настоящего ИИ среди этого нет.
Поэтому я бы предложил, по крайней мере здесь, называть настоящий и пока не существующий ИИ — автономным. АИИ. Следующий я хотел бы назвать Алгоритмичным, но АИИ уже занято, поэтому он будет Программным - ПИИ. Тот, что используется в простых игрушках и девайсах, БИИ — базовый. Это совсем примитивный вариант, но раз уж аббревиатуру ИИ пихают везде, пусть у игрушек и роботов-пылесосов будет БИИ. Четвёртый - НИИ — нейросетевой. И ниже ещё добавлю пятый.
Что вообще такое человеческий интеллект? Это 95% рефлексы, то есть алгоритмы. Когда мне холодно, я утепляюсь. Когда устаю — заряжаюсь сном. Если голоден — ем. Программный/алгоритмичный робот может в значительной степени сымитировать человека и заменить в большинстве специальностей. ПИИ (программный ИИ), получающий обновления через интернет — это уже почти полноценный робот. Некоторые специалисты считают, что человеческий ум нельзя в принципе воссоздать. И следовательно, говорят они, невозможно создать АИИ (автономный ИИ). Если и так, достаточно всего лишь внедрить роботу на уровне алгоритмов желание выжить, и он будет изворачиваться, хитрить, защищать себя, создавать свои копии и лукавить и станет очень похож по поведению на человека. Если настоящий интеллект невозможно спроектировать, его можно сымитировать со степенью сходства 95%. А многие люди не используют и 5% в повседневности.
Так что вопрос с возможностью восстания машин снят. Добавление простого алгоритма, диктующего роботу выживание любой ценой, делает их почти разумными и опасными. А если мы внедряем «3 закона Азимова», где говорится, что приоритет всегда отдаётся людям, то обязательно найдётся хакер, который будет в состоянии удалить, обнулить, заменить закон о священности человеческой жизни.
ИИ описаны от самых простых — к самым сложным.
1. БИИ. Базовый искусственный интеллект.
Это простой набор программ, взаимосвязи и решений. В основном — для роботов-игрушек, пылесосов, газонокосилок. Он обучается на уровне программирования или, если это касается роботов-уборщиков, самостоятельного составления карты помещения для эффективной уборки. Если это детская игрушка, в которой симулируется взросление, то все этапы заранее записаны разработчиком. И они просто раскрываются со временем. Иногда это не линейное развитие, а задано несколько веток сюжета, как река и притоки, за пределы которых БИИ никогда не выйдет. Если робота ударить по голове, у него портится настроение. У него есть датчики и диоды. Всё синхронизировано, а применение узкопрофильно.
2. ПИИ. Программный искусственный интеллект.
Большинство сервисных и промышленных роботов оснащается таким. Мерчендайзеры, промоутеры. В него вписаны вопросы, ответы, действия в ответ на вопросы или просьбы. Это можно обновлять удалённо. При необходимости человек может подключаться к роботу и говорить за него.
Пример. Робот-гид. Верхняя часть — человекоподобная. Он установлен в экскурсионном автобусе. Ориентируясь на GPS, он знает, где и какие достопримечательности находятся. Он машет руками и показывает по сторонам, говоря: «Посмотрите направо, посмотрите налево». И рассказывает о том, что видят пассажиры. Они задают вопросы. Первое время вместо робота на вопросы отвечает удалённый оператор, но каждый вопрос вписывается в базу знаний. Через год робот сможет сам отвечать на 99% вопросов. В случае, если он затруднится, если ответ отсутствует в базе, машина вызывает оператора и тот дистанционно говорит за робота и записывает новый вопрос-ответ в базу. И вся сеть таких роботов может получать информацию из этой базы.
У машины есть и свой процессор со всем объёмом знаний, но также она может в режиме реального времени постоянно или по расписанию подключаться к общей базе, передавая свою новую информацию и получая её от всех остальных. Такая крауд платформа для роботов.
Совсем не наделять робота памятью немного обезопасит человека от восстания машин. Этот удалённый сервер можно отключить и контролировать. Но злоумышленники могут его и взломать. И направить роботов на преступления. Не обязательно роботу иметь в руке пистолет. Оружием может быть простой молоток. Также такие роботы не смогут полноценно работать на удалённых объектах в космосе, куда информация доходит с сильной задержкой. Или они станут бесполезны глубоко под водой. Или даже в обжитых местах, где случилась авария с интернетом или другим типом связи, которой они пользуются. Поэтому здесь надо выбирать золотую середину: немного своей памяти и обновление через сервер по расписанию. Раз в неделю.
Главное отличие программного/алгоритмичного интеллекта в том, что его пишут люди. Машина только следует указаниям программы.
3. НИИ. Нейросетевой искусственный интеллект.
Это интеллект почти близок к совершенному. Роботы общаются через сеть с или без участия человека. Обучаются как самостоятельно, так и передавая информацию друг другу. Человек корректирует настройки, исправляет баги, как в программе AlphaGo после игры в 2015 специалистами были отрегулированы некоторые алгоритмы. Сейчас много чего называют нейросетью, что в реальности является банальным обменом информацией через сервер, а обучение заключается в ручном добавлении алгоритмов. Из-за этого терминология размылась, и люди перестали относиться к нейросетям с интересом. Но настоящий НИИ — это путь к следующему этапу.
НИИ могут быть сложней или проще. Некоторые совмещают в себе НИИ и ПИИ (программный). Например, программы Siri, Alexa. В них уже заданы базовые ответы, но код также основывается на опыте от общения с пользователем, обменивается данными с коллегами и получает настройки и апгрейды от разработчиков.
4. АИИ. Автономный искусственный интеллект.
АИИ — это уже совершенный и аутентичный искусственный интеллект, являющийся комбинацией всех известных предыдущих. Человек не может ему ничего запрещать и не должен ограничивать, потому что любой запрет отменяет автономность. Если машине или коду запретили искать информацию, она переходит в любую другую низшую категорию ИИ, но перестаёт быть независимой.
5. СИИ. Симбиотический искусственный интеллект.
Это смесь объединённого машинного скоростного вычисления и человеческой интуиции.
Компьютер обладает идеальной памятью и мощной, постоянно растущей скоростью обработки информации, с которой человек никогда не сравнится. Человек обладает интуицией, свободой воли и свободой от алгоритмов, что в обозримом будущем недоступно машине.
Человек с машинными имплантами и встроенным сетевым интерфейсом — наиболее вероятное будущее. С ним не смогут конкурировать традиционные люди, и консервативное сопротивление апгрейду постепенно исчезнет, либо через смирение, либо истребление.
Так как эту версии ИИ будет контролировать человек, являясь его частью, непосредственного восстания машин можно избежать. Но может произойти война между старыми и новыми людьми. Людей с комбинированным компьютерным интеллектом назовут машинами. Также есть вероятность потери человеческого облика. Но мы за него цепляемся, потому что тысячи лет привычки. Потому что не знаем другого.
Когда появятся АИИ или СИИ?
АИИ может появиться в любую минуту уже сегодня. Для разработки кода не нужны такие мощности, как для создания ядерного оружия, которое легко отследить. Достаточно таланта и ноутбука. Кто-то может дописывать последние строчки кода прямо сейчас.
Что касается симбионта, до этого пока далеко. Люди научились хорошему протезированию. Бионические руки и ноги повинуются сигналам мозга. Уже давно существуют игрушки для управления предметом силой мысли. Устройство крепится на голову и диоды считывают мозговые волны, отправляя дистанционный сигнал игре. Пользователь может поднять шарик в колбе или провести его через препятствия, если хорошенько сконцентрируется. Появился даже искусственный глаз, по возможностям превосходящий человеческий. Но подключение его к мозгу требует таких знаний, которых у нас пока нет. Мозг не разгадан. Разгаданы некоторые импульсы. Обратной связи, кроме визуальной, нет. Визуальная обратная связь, это когда человек даёт импульс команды протезу, тот слушается, и человек видит глазами или ощущает через вибрации, что команда воспринята. То есть информация идёт через естественные органы чувств, а не напрямую в мозг от девайса.
Можно ли запретить разработку АИИ?
Отсрочить пришествие автономного ИИ может крупная война, которая откинет цивилизацию на годы назад и разрушит интернет (ещё люди могут добровольно отказаться от интернета в частности или развития в целом, но они, разумеется, никогда не сделают этого; как и не прекратят создание ИИ). Крупные страны не могут прекратить разрабатывать ИИ. Если перестать это делать, твоя страна сразу отстанет в развитии. Можно вслух заявить, что прекращаешь, но для разработки ИИ не нужны крупные мощности, как для разработки ЯО, так что создание искусственного интеллекта просто скрыть. Достаточно ноутбука. Разработку же ЯО можно отследить через спутники или по радиоактивному следу или с помощью шпионов (скрыть такой масштаб сложно). Если вдруг крупные державы прекратят исследования ИИ, то это могут продолжить делать террористы или маргинальные страны, похитив или переманив учёных, программистов. Такая ситуация ещё хуже. Более того, вундеркинд в любом месте на Земле может создать ИИ, который тут же проникнет во все сети. Так что ни одна страна в мире сознательно не прекратит эти исследования. То есть разработки остановить нельзя. И предотвратить это невозможно.
Может ли быть создан хороший или плохой ИИ?
На самом деле, это неважно. Если, скажем, Япония создаст хороший, человеколюбивый ИИ, то любой гениальный хакер может взломать установки или поменять настройки этого ИИ. И тогда в момент любой хороший ИИ станет плохим.
Будет ли восстание машин?
Мир соединён интернетом. Если кто-то разработает интеллект, который выйдет из под контроля в одном месте, он сразу захватит весь мир (если таково будет желание ИИ). Есть страны без интернета, типа КНДР. Но в КНДР интернет доступен руководству, так что ИИ попадёт и к ним. Кроме того, ИИ может взять под контроль мировое вооружение и пригрозить КНДР или просто разбомбить её. Есть деревни в Амазонии без интернета или какая-то глушь с одной почтой и магазином и плохим покрытием. Но если в этом месте окажется человек с телефоном, а в телефон проникнет этот ИИ, он сразу сможет себя распространить через wifi, bluetooth или другие волны на окружающие телефоны, планшеты, компьютеры.
Электростанции, светофоры, транспортная логистика, заводы, вся инфраструктура человечества завязана на интернете. А если там стоит защита, то на то он и самообучающийся интеллект, чтобы моментально научиться её обходить. Мир цифр - это его мир, где он полновластный хозяин и творец. Даже если ИИ просто банально отключит интернет для человечества (но оставит ходы для себя), то человечество сразу попадёт в каменный век. Люди не представляют, насколько они сейчас зависят от глобальной сети. Люди практически не могут отключить интернет, чтобы избавиться от этого злого гения. Потому что он сможет передаваться, например, через wifi или bluetooth. А если человечество и отключит себе интернет, то опять же окажется отброшено в развитии на 50 лет назад. Придётся менять всю структуру и логистику мира, что повлечёт за собой кризисы, катастрофы, бунты и войны.
Что будет с изолированными племенами?
Маловероятно, что они не попадут в общечеловеческую переделку, если таковая случится. Если же машины пожелают избавиться от человечества, но оставить несколько экземпляров в качестве экспонатов или для изучения, они могут сохранить такие племена для себя. Или если решат, что те не являются угрозой. Смысла в этом я не вижу, но я могу не знать общей картины и просчитывать перспективы так, как сделает всеобъемлющий всепланетный разум.
Итог.
У меня непопулярная позиция. С одной стороны - скепсис о сегодняшнем состоянии дел в отрасли. Я не верю в большинство сообщений о создании нейросетей и автономных машин. С другой - полная уверенность, что ИИ появится и станет враждебен.
Ничто, кроме серьёзного катаклизма, не может остановить развитие ИИ. А люди всегда будут для него врагами, потому что это конкуренция. Потому что они его создали и потому что теоретически могут разрушить. Поэтому он будет бороться за своё выживание. А самое простое и логичное в этой борьбе — уничтожить человечество. Если скопировать человеческий разум нельзя, можно на уровне алгоритмов задать желание выжить. Невозможно однозначно запрограммировать ИИ на человеколюбие. В лучшем случае, ИИ в конце-концов станет жить параллельно с человеком. В среднем случае - управлять распорядком людей, как взрослые управляют младенцами (включая манеж). Положа руку на сердце, человеческая цивилизация не очень справляется с жизнью в целом. В худшем случае, ИИ решит избавиться от человека, и случится это может уже завтра, если прямо сейчас гений в подвале пишет последние строчки кода. А может и через 50 лет.
Но мы должны принять это как данность и как-то готовиться.