» » IEEE предложил стандарт производства и создания «благонадежных» роботов и ИИ

IEEE предложил стандарт производства и создания «благонадежных» роботов и ИИ

Автор: oleg666 от 18-12-2016, 01:03
IEEE предложил стандарт производства и создания «благонадежных» роботов и ИИ
Новости о том, что автоматизация рано или поздно начнет массово лишать людей их работы и оставит за забором социальной полезности, вряд ли вызовут положительные эмоции у человека, с перспективой смотрящего в будущее. Масла в огонь подливают такие шоу, как «Терминатор» или, например, свежий «Мир Дикого запада», которые тоже вносят свой вклад в общую копилку опасений, но уже с точки зрения разработки «недружелюбного» искусственного интеллекта. Имеют ли эти страхи под собой реальную основу? Возможно. А возможно, это всего лишь надуманная истерия. Но как бы там ни было, Институт инженеров элект­ро­тех­ни­ки и электроники (IEEE) уверен в том, что развитие ИИ и автоматизационных систем должно «согласовываться с полным учетом и соответствием человеческим моральным ценностям и этическим принципам».
IEEE предложил стандарт производства и создания «благонадежных» роботов и ИИ
Свои идеи институт представил в виде 136-страничного документа с названием «Ethically Aligned Design», являющегося своего рода «стандартом» для разработок, производства и развития роботов и искусственного интеллекта. Документ разработан при содействии более 100 мировых экспертов в сфере ИИ, законов, этики, философии и политики. Другими словами, при участии самых видных академиков, ученых и представителей правительственного сектора. «Благодаря обеспечению экспертов и разработчиков практическими рекомендациями для создания автоматизированных и интеллектуальных продуктов, сервисов и систем с учетом соблюдения выработанных этических человеческих принципов мы сможем справиться с нашими страхами, связанными с этими технологиями и сосредоточить свое внимание на тех преимуществах, которые эти технологии смогут принести человечеству не только в будущем, но уже и сегодня», — говорится в заявлении Константиноса Карачалиоса, управляющего директора ассоциации по вопросам стандартизации в IEEE. В IEEE отмечают, что инициатива является полностью открытой и они готовы к предложениям и обсуждениям интересующих вопросов со стороны инженеров, разработчиков и дизайнеров систем автоматизации и развития ИИ. При этом они готовы вести полноценный диалог, так как обратная связь в этом вопросе является одним из важнейших аспектов в выработке обсуждаемых стандартов. Что касается предложений, описанных в самом документе, то в них включены соображения по вопросам методологии проведения исследований и разработок; описываются опасения по поводу создания «черных ящиков». Другими словами, документ предостерегает сферу ИИ и автоматизации от проведения закрытых разработок. С более фундаментальной точки зрения то, что предлагает IEEE, приводит к появлению сразу нескольких интересных вопросов, важнейшим из которых, пожалуй, является следующий: а можно ли вообще запрограммировать мораль? Возможно ли на самом деле подстроить технологии ИИ и автоматизации под те «стандарты и человеческие и социальные ценности», о которых говорится в документе IEEE? Однако IEEE настаивает на своем и говорит о важности и необходимости стандартов. Ведь благодаря им мы сможем быть уверены в том, что при создании и развитии новых технологий в конечном итоге не пострадают люди. «Стандарты смогут обеспечить производственный контроль интеллектуальных и автономных технологий. Интеллектуальные системы становятся все сложнее и потому их незапрограммированное поведение может стать опасным. Для решения этого вопроса необходим надзор за процедурой разработки интеллектуальных и автономных систем». «Исследователям и разработчикам, занимающимся развитием и внедрением автономных и интеллектуальных систем, придется столкнуться с более прогрессивным и сложным набором мер соответствия по вопросам моральной и технической безопасности. Следовательно, к своей работе им придется подходить более ответственно». Если смотреть на ситуацию в целом, то IEEE сделала очень важный и действительно необходимый шаг на пути к «очеловечиванию» автономных и интеллектуальных систем. IEEE предложил стандарт производства и создания «благонадежных» роботов и ИИ Николай Хижняк

Hi-News.ru

Теги: Роботы

Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь.
Мы рекомендуем Вам зарегистрироваться либо войти на сайт под своим именем.

Комментарии:

Оставить комментарий
Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.