28 июля 2015

Эксперты по искусственному интеллекту подписали открытое письмо о защите человечества от машин

Эксперты по искусственному интеллекту подписали открытое письмо о защите человечества от машин

Базирующаяся в Бостоне волонтёрская организация «Институт будущего жизни» (Future of Life Institute или FLI) предложила экспертам по искусственному интеллекту подписать открытое письмо с обещанием защитить человечество от машин. 

Текст под заголовком «Научно-исследовательские приоритеты для создания надёжного и полезного искусственного интеллекта» был опубликован на сайте FLI 11 января, однако его уже успели подписать профессора Массачусетского технологического института, основатели компании Deep Mind, приобретённой Google в начале 2014 года, создатели суперкомпьютера IBM Watson, участники группы Microsoft Research и другие эксперты области.

Письмо-манифест состоит из трёх абзацев и вывода. В первых двух из них FLI даёт краткий обзор последним достижениям в области искусственного интеллекта вроде машинного перевода, распознавания речи или автоматической классификации изображений, и отмечает, что технология может принести человечеству в будущем огромную пользу. По мнению организации, на определённом этапе мир, придуманный людьми, начнут заполнять объекты, придуманные роботами.

Однако в конце письма FLI подводит к мысли, что учёные слишком озабочены развитием способности искусственного интеллекта эффективно решать конкретные задачи и не задумываются о том, что он может в определённый момент начать выбирать себе цели самостоятельно и отказаться от человеческого вмешательства.

Мы рекомендуем расширить исследования в направлении повышения надёжности и полезности систем искусственного интеллекта: они должны делать то, что мы хотим, чтобы они сделали. Из текста открытого письма FLI

В 2014 году проблема искусственного интеллекта всё чаще начала попадать в заголовки СМИ. В июне знаменитый учёный Стивен Хокинг заявил, что человечество проиграет в битве с роботами, а в последующие несколько месяцев эту тему неоднократно поднимал Элон Маск.

Глава Tesla Motors рассказал, что занимается искусственным интеллектом (он вкладывает средства в компанию Deep Mind), чтобы следить за этим крайне опасным изобретением. Маск сравнил эту технологию с ядерным оружием и даже предполагал, что человечество может быть лишь «биологическим загрузчиком» для роботизированных форм жизни, которые начнут править планетой в будущем.

P.S. Используйте ссылки чтобы отыскать документ самого письма.

 

 

Просмотров: 799

 

« Назад