Книги по психологии

НУЖНО ЛИ НАМ СОЗДАВАТЬ РАЗУМНЫЕ МАШИНЫ?
О - Об интеллекте

В XXI столетии разумные машины превратятся из выдумки, при­шедшей из фантастических романов, в реальность. Однако пока это­го не произошло, стоит обсудить ряд этических аспектов их создания, в первую очередь — соотношение потенциальных угроз и ожидаемой выгоды.

Перспектива появления в не столь отдаленном будущем машин, ко­торые смогут думать и действовать сами по себе, уже очень давно бес­покоит людей, что вполне объяснимо. Новые области знания и новые технологии почти всегда принимаются общественностью в штыки. Че­ловеческое воображение с готовностью рисует все мыслимые и немыс­лимые ужасы, сопряженные с появлением искусственного интеллек­та, — вплоть до сведения на нет самой ценности человеческой жизни. Но, как показывает история, все наши мрачные прогнозы никогда не бывают такими, как мы себе представляем. На заре индустриальной ре­волюции наши предки боялись электричества (помните Франкенштей­на?) и паровых двигателей. Машина, обладающая собственной энерги­ей и способная совершать сложные передвижения, внушала людям того времени ужас. Нам, их потомкам, электричество и двигатели внутрен­него сгорания не кажутся ни странными, ни угрожающими. Они пре­вратились в самые обычные составляющие нашей жизненной среды, подобно воде и воздуху.

Страх перед компьютерами зародился с началом эры информатики. Писатели-фантасты преподносили нам захватывающие дух истории о том, как мощные компьютеры или компьютерные сети, внезапно обре­тая сознание, нападают на своих создателей. Сейчас компьютеры заня­ли прочное место в нашей повседневной жизни, и такой страх кажется просто абсурдным. Компьютер, стоящий на вашем столе, или Интернет имеет так же мало шансов вдруг обрести ощущения, как и кассовый ап­парат в ближайшем супермаркете.

Конечно, любая технология может быть использована во зло или с добрыми целями, но определенные из них изначально, по своей сути, несут людям большую угрозу. Атомная энергия опасна независимо от того, используется она на атомной электростанции или в ядерной бое­головке, потому что одна-единственная ошибка в управлении может стоить жизни миллионам людей. Хоть атом и является ценным источ­ником энергии, однако у него существуют и альтернативы. Транспорт­ная технология может воплотиться в танках и бомбардировщиках или в автомобилях и пассажирских самолетах. В любом случае использо­вание данной технологии с дурными намерениями может принести людям много вреда. Транспортные средства важнее для современной жизни и намного менее безвредны, чем атомная энергия. Урон, который может быть причинен в самых худших обстоятельствах одним самоле­том, во много раз меньше, чем потенциальная опасность одной атомной бомбы. С другой стороны, существуют и технологии, способные при­носить только пользу, — например, телефоны. Способность телефонов соединять людей, помогать им поддерживать связь друг с другом на­много превышает какие то ни было негативные побочные эффекты. То же самое можно сказать об электричестве и здравоохранении. По моему мнению, разумные машины будут одним из наименее опасных и одним из наиболее полезных изобретений человечества.

Некоторые, как, например, соучредитель компании Sun Microsystems Билл Джой, высказывают опасения следующего порядка: как бы мы не создали роботов, ускользающих из-под нашего контроля, которые ока­жутся способны захватить Землю. Подобные высказывания ассоцииру­ются у меня с фантастическими историями. С другой стороны, прота­гонисты искусственного интеллекта предлагают свои долговременные пророчества. Например, Рэй Курцвейл говорит о дне, когда посредством нанороботов можно будет внедриться в человеческий мозг, оцифровать каждый синапс и каждую нейронную связь, а потом передать получен­ную информацию в сверхмощный компьютер! Так можно будет “скон­фигурировать” любого из нас. Хотите ли вы стать “программной” вер­сией самого себя, которая будет практически бессмертна? Эти два про­гноза, касающиеся искусственного интеллекта, — сценарий “Разумная машина впадает в бешенство” и сценарий “Ваш мозг загружается в ком­пьютер” — кажется, никогда не перестанут будоражить умы людей.

Машина, обладающая интеллектом, и самореплицирующаяся маши­на — совсем не одно и то же. Между ними вообще не существует логи­ческой связи. Ни мозг, ни компьютер не обладают свойством самореп - ликации. Мозгоподобная система памяти тоже таким свойством не об­ладает. Ключевым преимуществом создания разумных машин является то, что мы сможем наладить их массовое производство, что совершенно не имеет ничего общего с саморепликацией бактерий или вирусов. Са - морепликация не требует наличия разума, а наличие разума не нужда­ется в саморепликации.

И наконец, я сильно сомневаюсь в возможности когда-либо вос­создать в цифровом виде человеческий мозг. Методов, позволяющих записать миллиарды подробностей, из которых состоит “я” любого из нас, не существует на сегодняшний день, и вряд ли они когда-либо появятся. Для этого понадобилось бы оцифровать и воссоздать всю нервную систему конкретного индивида и все его тело, а не только Кору головного мозга. Даже если в очень отдаленном будущем это ста­нет возможным, задача расширяется намного больше, чем воссозда­ние работы неокортекса. Открыть алгоритм коры головного мозга и вмонтировать его в машину — это одно, но вот оцифровать миллионы операционных подробностей живого мозга и перенести их в крем­ний — совершенно другое.

# $ $ $ $

Помимо саморепликации и копирования разума, высказываются и другие опасения. Могут ли разумные машины оказаться угрозой для больших групп людей, как это было в случае с атомной бомбой? Мо­жет ли их наличие привести к концентрации огромной власти в руках небольшой группки злоумышленников? Могут ли такие машины обер­нуться во зло и начать бороться против людей, как это было с героями “Терминатора” и “Матрицы”?

На все эти и подобные им вопросы могу дать уверенный отрицатель­ный ответ. Как информационные устройства, мозгоподобные системы памяти будут одной из наиболее полезных технологий, которые до­водилось изобретать человечеству. Точно так же, как автомобиль или компьютер, они останутся всего лишь инструментами. Наличие разума у машин не обеспечит им возможности разрушать или манипулировать людьми. Мы же не отдаем весь мировой атомный арсенал в руки одного человека или одного компьютера, следовательно, нам придется прояв­лять осторожность и не перегружать разумные машины, иначе они прос­то выйдут из строя, как и любая другая техника. Теперь вернемся к воп­росу о злоумышленном использовании. Некоторые люди полагают, что быть разумным — то же самое, что и обладать человеческой менталь­ностью. Они опасаются, что разумные машины однажды взбунтуются против “порабощения”, потому что гнет претит людям. Они боятся, что разумные машины попытаются захватить мир, потому что разумные люди, как показывает история, постоянно борются за власть. Все эти опасения базируются на ошибочной аналогии. Они основываются на объединении разума, т. е. алгоритма коры головного мозга, с эмоцио­нальными устремлениями “старого” мозга, такими как страхи, стрем­ление к обладанию, неприятие насилия. А ведь у разумных машин не будет подобных побуждений. У них не будет личных амбиций. Они не будут испытывать потребность обогащения, общественного признания и чувственного удовлетворения. У них не будет аппетита, пристрастий и — порой — плохого расположения духа. Разумные машины не будут иметь ничего напоминающего человеческие эмоции, если мы не прило­жим неимоверные усилия для создания такой архитектуры. Наиболее эффективное применение разумные машины найдут там, где человечес­кий мозг испытывает трудности, — в областях, для которых недостаточ­но опоры на ощущения и интуицию, или же в скучных и утомительных видах деятельности.

Диапазон сложности разумных машин может быть очень большим — от простых с одним приложением до очень мощных систем, обладающих сверхчеловеческим интеллектом. В любом случае, если мы не пойдем путем сознательных усилий, чтобы эти системы стали человекоподоб­ными, они таковыми никогда не станут. Возможно, наступит день, когда нам придется поставить ограничения на сферы применения разумных машин, но сейчас нам до него еще далеко. Даже когда такой день на­станет, то возникшие этические вопросы можно будет решить гораздо скорее и проще, чем те, перед которыми нас ставит генетика и ядерные технологии.