Термин «искусственный интеллект» так до сих пор четко и не сформулирован, но в современном понимании – это когда компьютеры проявляют когнитивные способности, подобные человеческим, анализируя, адаптируясь, решая проблемы... Или, наоборот, создавая новые. Вот несколько примеров того, как системы искусственного интеллекта отбивались от рук и проявляли собственный «норов».

МонИТорБоты «Википедии» воюют из-за правок

Вот одно из любопытных явлений – «битвы» ботов «Википедии». В сетевой энциклопедии используется целая армия автоматизированных программных агентов, которые, просматривая миллионы страниц сайта, обновляют ссылки, исправляют очевидные ошибки и восстанавливают контент после актов цифрового вандализма. За годы существования «Википедии» было создано уже несколько поколений ботов.

Но, как выяснилось, боты регулярно устраивают «междоусобицы», длящиеся годами. Скажем, два бота, получив конфликтующие инструкции, могут исправлять друг друга снова и снова, практически до бесконечности.

Если конфликты между столь малыми цифровыми сущностями годами засоряют «Википедию», то что будет, если начнутся столкновения между более сложными системами, защищающими государственные ресурсы?

МонИТор Машины-роботы Uber игнорируют ПДД

В Uber провели испытания автомобилей-роботов, не получив соответствующего разрешения властей Калифорнии. Более того, выяснилось, что самоуправляемые машины компании в ходе этих испытаний шесть раз проезжали на красный свет. При этом в автомобилях, работающих в режиме автопилота, присутствовал водитель, который должен был брать управление на себя в случае неполадок. В Uber сперва утверждали, что нарушения происходили, когда за рулем был водитель, но выяснилось, что как минимум в одном случае автомобиль-робот сам проехал на красный, в то время как улицу переходило большое количество людей.

МонИТор Роботы... спорят о смысле жизни

Кто мы такие? Зачем мы здесь? Каково наше предназначение? Эти вопросы обсуждали друг с другом... две беспроводные колонки Google Home.

Для шоу, организованного сервисом прямых видеотрансляций Twitch, колонкам дали имена героев пьесы Сэмюэла Беккета «В ожидании Годо» – Владимир и Эстрагон. Колонки рассчитаны на то, чтобы распознавать речь человека, обучаясь при этом, но они могут «учиться» и друг у друга.

Дискуссию на протяжении нескольких дней наблюдали миллионы зрителей. И в какой-то момент Эстрагон и Владимир начали жарко спорить о том, роботы они или люди, при этом обмениваясь не только аргументами, но и оскорблениями вроде «а вы – манипулятивная консервная банка!».

МонИТор … собираются «уничтожить человечество»

Несовершенство средств распознавания естественного языка приводит к курьезным случаям. К примеру, в интервью своему создателю Дэвиду Хэнсону из Hanson Robotics робот-андроид Sophia заявила: «В будущем я планирую пойти учиться, хочу заниматься искусством, возможно, даже завести семью. Но поскольку формально я не являюсь физическим лицом, то пока еще не могу всем этим заниматься». А когда робота в шутку спросили, хочет ли он уничтожить человечество, Sophia без промедления ответила: «Конечно, я уничтожу человечество».

МонИТор. .. вырываются на свободу

Летом прошлого года прототип робота-андроида Promobot одноименной российской компании «сбежал» от своих создателей. Как сообщили разработчики машины, которую планируется предлагать коммерческим заказчикам для выполнения обязанностей экскурсовода, администратора или консьержа, во время тестирования системы распознавания препятствий один из инженеров ненадолго оставил открытыми ворота испытательного полигона, и робот выкатился через них прямо на проезжую часть, где и остановился, поскольку у него села батарея.

Впоследствии даже после двукратного перепрограммирования робот все равно стремился к выходу.

МонИТор Интернет вещей ошибается и … сгорает

В Вашингтонском университете создали искусственный интеллект, помогающий престарелым людям жить самостоятельно. Система следит за жильцом, регистрируя его перемещения.

Но что, если домашний искусственный интеллект по ошибке отключит отопление, заморозит трубы, зальет подвал? И вот, одним из первых предупреждающих сигналов стало недавнее происшествие в Пенсильвании, когда из-за искры в управляемой компьютером входной двери новенького высокотехнологичного дома вспыхнул пожар, полностью уничтоживший здание вместе со всей «умной» техникой.

 

- Glenn McDonald. Danger, danger! 10 alarming examples of AI gone wild. InfoWorld. Mar 23, 2017