Технологии

Восстание машин: Facebook вынужден отключить искусственный интеллект

1 августа 2017 0

фэйсбук

bigstock.com

Администраторы социальной сети Facebook отключили одну из систем искусственного интеллекта, потому что боты вместо английского решили использовать свой язык, незнакомый людям.

Как появился язык ботов?

Чат-боты были разработаны, чтобы общаться с настоящими людьми. Позже они перешли на разговоры друг с другом. Вначале боты вели общение на английском. Но потом они решили, что это неудобно, и для мгновенного и простого обмена информацией решили создать собственный язык.  Администраторам Facebook такая инициатива со стороны ботов не понравилась, и вскоре они отключили часть этой системы. Остальных ботов Facebook «заставил» разговаривать на английском.

Язык ботов-агентов распознали по следующим сообщениям, которые не несут никакого смысла для людей:

Bob: «I can can I I everything else» (Боб: «Я могу я могу я все остальное»).

Alice: «Balls have zero to me to me to me to me to me to me to me to me to» (Алиса: «Шары имеют ноль для меня для меня для меня для меня для меня для меня для меня для меня»).

Эти отрывки – разговор между агентами, разработанными Facebook.

Системы искусственного интеллекта главным образом работают, исходя из принципа «поощрения». Другими словами, они могут действовать только в том случае, если эти решения будут полезными. Ботам не был дан сигнал поощрения на пользование именно английским. В издании Tech Times утверждают, что у ботов не было никаких ограничений выбрать тот или иной язык, что и послужило толчком к созданию собственного.

Какой вред людям от того, что боты используют свой язык?

Системы искусственного интеллекта, которые перешли на свой язык, абсолютно не доступны для контроля со стороны людей.  Мы и так не можем понять cкрытую мыслительную активность искусственного интеллекта. С появлением секретного языка понять такие процессы станет еще сложнее.

Более того, если боты смогли придумать свой язык, это означает, что им больше не нужно вмешательство человека. Искусственный интеллект способен выполнять задания лучше, чем с этим справляется человек, поэтому бесконтрольное поведение роботов и ботов может привести к тому, что они превратятся больше,  чем в технологии, служащие во благо человечеству.

Ранее лидер компаний SpaceX и Tesla Илон Маск заявлял, что искусственный интеллект, вероятно, сможет стать самым большим риском, с которым столкнется человечество. На его взгляд, для того чтобы мы не стали заложниками своих же технологий, необходимо выстроить хорошую систему государственного регулирования.


Денис Сапожников

специалист по информационной безопасности

Я считаю, что такой переход искусственного интеллекта на свой язык не нужно считать опасным. Современный искусственный интеллект – это узкоспециализированное “программное обеспечение”, призванное решать задачи, которые невозможно или крайне сложно алгоритмизировать. С творческим началом у искусственного интеллекта все крайне печально. Да и был ли этот “переход на свой язык”? Сильно сомневаюсь. К тому же речь идет далеко не о том, что представляет себе рядовой пользователь интернета.

В каком-то смысле эра восстания машин уже наступила. Только виной этому не искусственный интеллект, а гонка за инновациями и сверхприбылью. Как следствие – конфликты на стыке различных технологий и откровенно низкое качество программного кода. В фильме Джеймса Кэмерона восстание машин было более красочно, однако реальный ущерб уже весьма велик.

Чтобы не допустить дальнейшего усугубления ситуации, необходимы жесткое регламентирование процесса разработки, адекватный контроль за исполнением задач, межгосударственное взаимодействие и, возможно, унификация средств разработки.

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

Рассказать друзьям

0 Комментариев

Подписаться на рассылку

Комментарии

Войти с помощью 

Присоединяйтесь к нам в социальных сетях

В наших группах вы можете узнать много нового и интересного, а так же - принять участие в опросах и конкурсах

Присоединиться
Присоединиться