В последние годы, по мере стремительного развития области искусственного интеллекта (ИИ), многие ученые, включая Стивена Хокинга, неоднократно выражали беспокойство по поводу потенциальных рисков, связанных с ИИ. В связи с этим, наделение ИИ богатой палитрой эмоций, по всей видимости, довольно опасная затея. Однако по мнению профессора кафедры «Кибернетика» НИЯУ МИФИ, все эти риски являются полностью контролируемыми и в будущем «эмоциональные» работы станут надежными помощниками человека.
Универсальному роботу нужны человеческие эмоции
Самсонович говорит, что человек давным-давно изобрел всевозможные приспособления: фотоаппарат, видеокамеру, калькулятор, телефон, на сегодняшний день все эти функции интегрированы в одном маленьком смартфоне. В настоящее время в развитии компьютерных программ наступила новая эра, необходима комплексная программа, которая сможет независимо выполнять практически всю работу, а также эффективно общаться с человеком и точно понимать наши требования. Для реализации этой цели, нужно создать «эмоциональный» ИИ.
По мнению ученого, неделение ИИ эмоциями — это сложный и грандиозный проект. Во-первых, требуется наладить постоянный контакт человека и робота, сделать так, чтобы ИИ смог точно понимать антропосемантику, а также использовал похожую языковую систему для обратной связи. Во-вторых, создать такого виртуального помощника, который сможет в реальном мире самостоятельно учиться, понимать человеческие эмоции и чувства, пользоваться доверием человека. В конце концов, это должен быть робот-помощник, выполняющий команды человека, более того, являющийся продолжением человеческого тела, когда с помощью мысли можно осуществлять над роботом эффективный контроль.
Для искусственного интеллекта, как и для людей, «любовь сильнее денег»
В 1942 году Айзек Азимов в своем рассказе «Хоровод» выдвинул «Три закона роботехники». Можно ли в действительности реализовать три эти закона для того, чтобы регулировать модель поведения ИИ?
Алексей Самсонович считает, что ответ очевидно является отрицательным. В будущем ИИ предстоит самостоятельно сталкиваться со сложными и непредсказуемыми внешними обстоятельствами, с помощью анализа данных независимо делать оптимальный выбор. Помимо того, что «Три закона роботехники» полны уязвимых мест и расплывчаты сами по себе, они могут сделать так, что в реальном мире ИИ не сможет сделать ни шага. Однако, по мнению ученого, люди могут с помощью других методов обучать ИИ, чтобы его поведение было благоприятно для человека.
В настоящее время команда Самсоновича проводит чрезвычайно интересный эксперимент: она разработала одну простую компьютерную игру, в которой три виртуальных ИИ-персонажа изолированы на одной планете, необходимо провести операцию по спасению с помощью двух телепортов. Эти два телепорта могут быть активированы только вместе, в конце концов, будут спасены только два персонажа, а оставшийся на планете должен будет ждать, чтобы один из его товарищей вернулся за ним. Таким образом, осуществляется проверка, сможет ли «эмоциональный» ИИ адаптироваться к отношениям в человеческом обществе, установить доверие с партнерами, проявить сочувствие к товарищу, оказавшемуся в сложной ситуации и сознательно помочь ему. Команда исследователей посредством этого эксперимента соберет данные и проведет оптимизацию эмоциональной модели ИИ.
Угрозы, которые несет в себе искусственный интеллект, берут свое начало в человечестве
После того как компьютерная программа AlphaGo победила Ли Седоля в битве между человеком и машиной в игре го, люди начали беспокоиться о том, что в будущем ИИ сможет получить интеллектуальное превосходство над человеком. По этому поводу Самсонович говорит, что победа AlphaGo означает стремительный прогресс ИИ в области глубинного обучения, однако го — это область, в которой сравнительно легко производить математические абстракции. Сегодня превосходство ИИ над человеком по-прежнему основывается на вычислительных способностях первого, говоря по существу, преимущество такого рода по-прежнему определяется человеком. Существование и развитие ИИ в будущем станет в полной мере ограничиваться людьми, рост его возможностей будет зависеть от непрерывной оптимизации алгоритмов и моделей человеком.
По мнению ученого, если случится так, что развитие ИИ будет представлять из себя угрозу для существования человечества, то причину все равно нужно будет искать в самом человечестве. Он сказал: «Я нисколько не сомневаюсь в том, что найдутся люди со злым умыслом, которые попытаются с помощью технологий ИИ создать несущих опасность роботов и даже робооружие. В действительности, правонарушения нового типа постоянно и неотступно следуют за развитием электронно-вычислительной техники. Например, вирусные и вредоносные программы зависят от человека.
Люди могут по собственному выбору наделять ИИ положительными эмоциями, чтобы он стал действенным помощником для нашей работы и жизни, а вовсе не катастрофой, которая сотрет нас с лица земли».
Материалы ИноСМИ содержат оценки исключительно зарубежных СМИ и не отражают позицию редакции ИноСМИ.
Лучшие
Показать новые комментарии (0)
Все комментарии

| 0 Конечно может. Глядя на Керри, Клинтон, Обаму, Меркель, Псаки и других - не возникает никаких сомнений по этому поводу. 
| 0 Рабство побеждено! Да здравствует рабство! 
| 0 Эмоции это реакция. Это процесс физический. Раскрыть всю ветку (5 сообщений в ветке) 
| 0 vladimirvlasov2014, перестройка организмом сознания под определённую реакцию на объект.Вы не назвали человеческие эмоции .Это самое казалось бы сложное для перенесения на технический уровень.А что если это те же заложенные природой программы призванные обеспечить необходимое восприятие, реакцию.Необходимость в этом ,в перестройке организма,его мыслительных реакций, могла быть выработана природой.Эти "эмоции" я бы отчасти отнёс как раз к программному обеспечению заложенному природой.Вы не просто провели анализ и пришли к выводу а в это начинает "вмешиваться" что то глубинное,заложенное. Злость, есть выделение веществ в организме вызывающее перестройку организма под возможность активного реагирования на негативно воспринятый внешний объект,событие. 
| 0 vladimirvlasov2014, Жалость. возможно та же перестройка организма под определённое реагирование на какое то объект,событие.Это могло быть выработано в виду того что человек существо общественное. Существующее в кругу общности каких же людей.Противоположность,отсутствие такой перестройки организма под "жалость к" могло вызывать потерю некоторого количества представителей вида (ослабленных повреждённых или оказавшихся в угрожающей ситуации) что в итоге отражалось на численности и распространению. и тд У человека есть рефлексы,инстинкты- простейшие заложенные программы призванные обеспечить наше функционирование и "обновление" в новой доработанной модели. 
| 0 vladimirvlasov2014, Эти "чувства" "эмоции" это программы заложенные природой. Злость ,страх,радость,импульсивность -есть и у животных и они не могут считаться чисто человеческими особенностями делающими его "уникальным". Программы (именно) пишутся человеком (пока) .Но и его (человека) "программа" прописана эволюционным путем,развитие привело к возникновению человеческого интеллекта .И получив изначально не сильно развитый интеллект человек уже отчасти сам работает над развитием его. "прописывает" себе новые "программы", ставит задачи.У машин нет (пока ) способности ставить себе новые самостоятельно сформулированные на основе обработанной информации задачи. 
| 0 vladimirvlasov2014, вообще думаю что "особенность" человека это способность постоянного анализа.Анализа с использованием кодифицированного в языке названия всего окружающего его.Он постоянно структурирует полученную информацию.У него всё разложено "по полочкам".Допустим услышав слово компьютер у него в голове мгновенно возникают образы о нем ,Всё что в его сознании было связано структурировано в этим . два уровня составляющие человеческий интеллект,сознание -1 это внутренний осознаваемый монолог,анализ в нем и решение, -2 это как образы памяти,всё уже проанализированое ,воспринятое к чему мы и обращаемся в своём первом уровне сознания. У человека в памыти есть долгосрочные и краткосрочные задачи и он в своём анализе способен ставить себе новые задачи. 
| 0 vladimirvlasov2014, ИИ нужно (по моему)чтобы в его оперативную память было включено как можно больше.Я бы сравнил сегодняшний уровень с младенцем.Есть процессор но память пока пуста ,нет языково закодированного,структурированного "инструментария" для большого анализа получаемой новой информации .Но младенец в одном дне - полученная информация как бы выводится из анализа.В сознании человека память как бы постоянно в процессе,Имеющаяся информация в памяти постоянно структурируется и наши знания могут пересматриваться.Как бы один файл в который постоянно вносятся изменения и улучшения.Это постоянное переосмысливание знаний .Знания в памяти и из них и создаётся личность человека.Этот файл памяти =личности и с помощью нашего "процессора" мы становимся интеллектуальной личностью ,осознающей себя ,окружающий мир и проводящей анализ и постановку себе задачь
Показать новые комментарии (0)Donpedro
jadefalcon
vladimirvlasov2014
сергей 1
сергей 1
сергей 1
сергей 1
сергей 1
в ответ(Показать комментарийСкрыть комментарий)