Введение
В вопросе о том, смогут ли компьютеры в будущем восстать против людей, есть множество разных подпунктов. Станут ли компьютеры главенствующей разумной силой на планете и сместят ли людей? Что означает слово «главенствующий»? Будут ли компьютеры и люди конфликтовать между собой? Означает ли это применение насилия? Отнимут ли умные компьютеры работу и ресурсы у людей?
Большинство экспертов по искусственному интеллекту соглашаются, что компьютеры в конечном счёте превзойдут людей по мыслительным способностям. В связи с этим появляются новые вопросы. Когда это случится? Что конкретно это будет означать? Будет ли похож интеллект компьютеров на интеллект людей, только на более высокой скорости? Быть может, он будет радикально отключаться?
Современные системы искусственного интеллекта имеют выдающиеся способности, но они не умеют думать в общепринятом смысле этого слова. Сейчас применяются термины общий искусственный интеллект (ОИИ), сильный ИИ, настоящий ИИ и другие, чтобы отличить настоящие и мыслительные способности от современных систем ИИ, у которых большая скорость, но ограниченный функционал.
С наступлением ОИИ появятся новые риски. Для начала нужно попытаться понять, когда это произойдёт.
Когда появится ОИИ?
Раньше, чем вы думаете. Почему ОИИ до сих пор отсутствует? Мешают две проблемы:
- Создание необходимой вычислительной мощи
- Написание программного обеспечения
Эксперты дают разные оценки вычислительной мощи человеческого мозга и того, когда компьютеры достигнут такого уровня. В среднем превосходство простой вычислительной мощи у компьютеров ожидается через 10, 20, 50 лет.
Это может быть неправильный вопрос. Поиск информации в хорошо проиндексированной базе данных может давать результаты в миллионы и миллиарды раз быстрее, чем простой перебор. Какая часть ОИИ будет годиться для такого вида эффективности программного обеспечения?
Роботы производства компании Boston Dynamics уже умеют плавно двигаться и показывают координацию, которые люди имеют благодаря 56 млрд. нейронов мозжечка. Между прочим, это 65% вычислительной мощи нашего мозга. Роботы справляются с этой задачей при помощи нескольких центральных процессоров. Не потому, что эти процессоры считают быстрее, чем 56 млрд. нейронов мозга, а потому что разработчики программного обеспечения для роботов знают физику, разные силы и взаимодействия. Это позволяет им создавать эффективные программы, где не нужен метод проб и ошибок, которые неизбежны, когда человек учится ходить.
Двойные стандарты?
Компьютеры становятся главными мыслителями мира, поэтому люди должны принимать их во внимание и не становиться причиной конфликтов. Мы не будем ценной пищей или источником энергии для компьютеров, как в «Матрице». Не будем мы и трофеями (хотелось бы верить). Но что, если искусственный интеллект будет воспринимать нас как серьёзную угрозу для своего существования (как в «Терминаторе»)? Хотя бы потому, как хорошо мы может загадить планету, от чего страдаем сами и все вокруг нас. При нынешнем перенаселении планеты, бесконечных войнах, глобальном потеплении, загрязнении, истощении природных ресурсов это вполне возможно. Эти проблемы требуют решения со стороны любого интеллекта, который живёт на Земле.
Например, что нужно сделать, чтобы сократить население Китая? Кто-то считает, что меры китайского правительства были драконовскими, другие в своё время многие воспринимали их как необходимые. Если подобные меры к человечеству в целом в будущем применят правящие компьютеры, это будет рассматриваться как геноцид.
Также рассмотрим вероятность острого энергетического кризиса. Если будущее правительство людей будет нормировать выдачу энергии, что приведёт к многочисленным смертям и будет считаться тяжёлым решением. Если думающие компьютеры заставят людей ограничить расход энергии и результат будет такой же, это может считаться актом агрессии. Особенно если для себя компьютеры оставят достаточно энергии, как сделало бы любое человеческое правительство.
Лучше бы людям решить эти проблемы самостоятельно, чем ждать тяжёлых решений со стороны искусственного интеллекта, чьи ценности могут не совпадать с человеческими. Или мы сделаем всё сами, или решения компьютеров могут быть ещё более неприятными. Если боязнь компьютеров заставит людей начать решать проблемы самостоятельно, компьютеры окажут на нас положительное влияние.
Продолжение
Суть в том, что мозги человека являются не самым эффективным вычислительным устройством. Они справляются со своей работой, но есть значительно более эффективные и быстрые способы делать то же самое. Нужно только создать для этого правильное программное обеспечение. Уже существует достаточно мощные для ОИИ компьютеры, но мы о них пока не знаем. Это заставлять задать следующий вопрос.
Большинство людей смотрят на ограничения сегодняшних систем искусственного интеллекта как на свидетельство того, что до распространения ОИИ ещё далеко. Быть может, это не так. Многие необходимые компоненты ОИИ уже существуют, но пока не работают совместно. Умение играть в шахматы – это прекрасно, но оно не означает, что компьютеры умеют думать в привычном смысле слова и понимать нас на бытовом уровне. Вы понимаете слово «чай», потому что пили его, наливали, проливали, заваривали и так далее и тому подобное. Суперкомпьютер мог только читать про чай. Вы и суперкомпьютер имеете разное понимание термина «чай» и всех остальных, поскольку у суперкомпьютера нет реального опыта. Возможности суперкомпьютеров должны объединяться с сенсорами и интерактивными роботами, чтобы возникло понимание окружающей реальности. Нужно объединить объект и представление знаний, распознавание шаблонов, ориентированное на цели обучения и другие аспекты искусственного интеллекта для достижения ОИИ. Эти аспекты уже существуют в той или иной форме и в течение 10 лет они все могут быть объединены. Раньше, чем думает большинство.
С таким коротким сроком пора начать думать о том, как будут выглядеть системы ОИИ, о чём нужно волноваться и к чему готовиться. Люди обязательно утратят свои позиции в качестве главного мыслителя на планете, но у них есть полный контроль над тем, какие машины придут им на смену. Есть и контроль над процессом смены власти, будет он мирным или нет.
Сценарий 1: мирное сосуществование
Это первый из четырёх возможных вариантов развития событий. Нужно задаться вопросом, что вызывает конфликты между людьми и будут ли такие же причины приводить к конфликтам между компьютерами и людьми?
Большинство конфликтов между людьми разгораются по причине инстинктивных потребностей и опасений. Если племя (страна, клан, религия) не получает ресурсов и не расширяется, как должно (заслуживает, хочет), они могут начать войну для реализации своих потребностей или желаний. Внутри племени каждый индивидуум должен заслужить персональный статус, как можно более высокий. Все мы должны обеспечивать себя и членов своей семьи, иногда жертвуя краткосрочным комфортом ради долгосрочной выгоды себя и своего потомства. Даже если сегодня это ведёт к конфликту.
Все эти причины конфликтов не кажутся важными для искусственного интеллекта. Думающим машинам не нужна наша пища, наши партнёры и стандарты жизни. Им требуются свои источники энергии, фабрики для репродукции и возможности прогрессировать в собственном направлении. Компьютеры также могут конкурировать друг с другом, но не с людьми.
В долгосрочной перспективе проблемы человечества могут быть решены под присмотром компьютеров. ОИИ может разработать решения перенаселённости, болезней, воин, и всё это уйдёт в прошлое. Компьютеры помогут нам, поскольку это будет лежать в основе их программ и затем в их интересах будет иметь под боком стабильное и мирное человеческое население. Компьютеры могут управлять всеми технологиями, исследованиями и разработками.
Сценарий 2: машины сходят с ума
В научной фантастике полно сценариев, когда искусственный интеллект приобретает сознание и атакует своих создателей, когда те угрожают отключить его. Это не самый реалистичный вариант по нескольким причинам. Люди вступают в конфликт из-за потребности в территории, жадности и многих других чисто человеческих причин. У ИИ будут другие ценности. Даже внутренний инстинкт самосохранения у него может отсутствовать. Люди хотят сделать искусственный интеллект приятным, развлекающим, соглашающимся, иначе его будет не продать. Когда ИИ начнёт программировать будущие поколения самого себя, он должен передавать эти ценности, как люди передают свои ценности собственным детям.
Давайте рассмотрим конфликты между людьми и другими видами живых существ. Гориллы близки к вымиранию, поскольку за ними охотятся как за трофеями. Носороги превратились в афрозодиак. За волками охотятся, поскольку они считаются вредителями. Вирус оспы почти вымер, чем люди гордятся, ведь он угрожал жизни людей. Нужно убедиться, что мы сами не превратимся в трофеи, вредителей или паразитов.
Лживый компьютер?
Что делать, если машины начнут вести себя не так, как предполагается? Случайно или по вредоносному замыслу других людей, такие системы могут стать опасными для других систем искусственного интеллекта. Последние получат мотивацию для уничтожения вредоносных систем. Здесь явно есть причина для конфликта.
Может ли ИИ начать атомную войну? Интересы людей и машин в этом случае совпадают, поскольку полномасштабная война будет катастрофой для всех. Опасные ситуации возникают, когда цели людей и машин различаются. Болезни, голод, засуха разрушительны для людей, но могут никак не затрагивать машины.
Если думающие компьютеры начнут создавать собственную цивилизацию, отдельные неправильно ведущие себя машины могут быть большей угрозой для их цивилизации, чем для нашей. Как мы стараемся убрать из общества преступников, так и будущее машины будут противостоять своим преступникам. Они смогут делать это быстрее и эффективнее людей.
Можно ли их просто отключить?
Часто фантастики показывают, что люди способны просто отключить неправильно ведущие себя компьютеры от розетки. Что делать, если такой компьютер или робот не у вас на рабочем столе, а в облаке? Искусственный интеллект будет работать где-то на удалённых серверах и подобная инфраструктура будет разработана с прицелом на надёжность и избыточность. Понятное дело, что одной кнопки выключения не будет предусмотрено. В таком случае будет непросто обойти защиту, созданную для работы финансовых, военных и других систем. Хочется верить, что разработчики подумают о каком-то программном переключателе.
Сценарий 3: человек сошёл с ума
Что, если первые владельцы мощных систем ОИИ будут использовать их как инструмент для захвата мира? Если какой-нибудь диктатор в какой-нибудь стране получит контроль над подобной системой?
Это более опасный сценарий, нежели предыдущий. Люди смогут запрограммировать мотивацию искусственного интеллекта, но нельзя программировать мотивацию его создателей-людей. Будут ли такие системы считаться инструментами для получения прибыли или политического влияния? В фантастике обычно показывают вооружённые столкновения, но в реальности наибольшая угроза со стороны компьютеров может исходить от возможности манипулировать мнением и рынками. Мы уже видели попытки влиять на различные выборы через социальные сети и искусственный интеллект может сделать эти попытки намного более эффективными. Уже есть нарождающийся рынок программируемой торговли, и ОИИ сделает эти рынки ещё влиятельнее.
Хорошая новость заключается в том, что окно возможностей для таких проблем достаточно короткое. Только в течение первых нескольких поколений систем ИИ. В это время люди будут иметь прямой контроль над ОИИ и решать, что ему делать. Потом машины могут начать действовать по собственной воле и исходя из своих побуждений. Если со стороны людей последует запрос на вредную активность, правильно запрограммированные системы могут просто отказаться.
Сценарий 4: человечество сошло с ума
Люди являются сейчас основной и единственной мыслящей формы жизни на планете. По крайней мере мы так считаем. Кому понравится идея о том, что мы утратим доминирующее положение? Для того ли мы поднимались по лестнице эволюции, чтобы нас сбросили с трона машины? Будут ли отдельные борцы за свободу нападать на машины? Возможно.
Исторически лидеры наций умели убеждать население, что их проблемы вызваны другими группами людей. Это могли быть евреи, чернокожие, нелегальные иммигранты, белые, красные и далее по списку. Всё это обычно заканчивалось шагами по устранению «источника проблемы». Такая же ситуация может сложиться в случае с ОИИ и роботами. Люди начнут кричать, что теряют работу, что человечество захватывают и т.д. Однако, развитие технологий улучшают жизнь в том числе и людей. Отказаться от них нет возможности.
Будут ли отдельные личности, которые захотят противостоять компьютерам? Наверняка. Как сегодня есть хакеры и создатели компьютерных вирусов. В долгосрочной перспективе их усилия окажутся напрасными. Владельцы компьютеров будут реагировать на их попытки, как сейчас реагируют власти. В конечном счете повстанцам придётся найти другие цели и отстать от искусственного интеллекта.
Заключение
Случится ли восстание машин? Да, в том смысле, что они станут доминирующей формой разума на нашей планете. Уже сейчас всё идёт к этому. Также вероятно, что если мы не решим наши многочисленные проблемы, вроде перенаселённости, загрязнения, глобального потепления, истощения ресурсов и прочих, умные машины решат их за нас при помощи методов, которые нам сильно не понравятся. Когда придёт пора действовать, пусть лучше машины возьмут бразды правления в свои руки, пока не стало слишком поздно и у них не появятся причины ликвидировать нас окончательно.
