Эксперимент был задуман как предупреждение об опасности бесконтрольных разработок и использования искусственного интеллекта.
Нейросеть Norman создана специалистами по машинному обучению Массачусетского технологического института (MIT), вдохновлёнными образом антагониста Нормана Бейтса из нашумевшего фильма Альфреда Хичкока «Психо».
В одну из нейросетей ввели алгоритм обычных изображений людей, животных, птиц и т.д. Другой ИИ (AI) «обучался» на изображениях людей, которые умерли. На его примере исследователи хотели показать, как легко создать подлинно психопатический искусственный интеллект.
Впоследствии нейросети получили задание интерпретировать серию психодиагностических картинок с изображениями из так называемого Теста Роршаха или «Пятен Роршаха». При сравнении результатов обработки картинок оказалось, что первый ИИ воспринимал рисунки как вазу с цветами, человека, держащего в руках зонтик, людей на лавочке, птиц на ветках.
В то же время психопатический искусственный интеллект «видел» или человека, застреленного из пистолета средь бела дня или выпавшего из окна, а также попавшего под машину или поражённого электрическим током.
«Наш эксперимент наглядно показал, что данные, которые используются для алгоритма обучения интеллектуальной машины, могут существенно влиять на его поведение и восприятие поступающей информации», — рассказывает профессор MIT Ияр Рахван.
«Содержание вводимых данных значительно важнее, чем сами алгоритмы. Они служат для обучения искусственного интеллекта и оказывают решающее влияние на его восприятие окружающего мира. Обучение алгоритмов аналогично обучению людей, поэтому существует вероятность неправильного обучения», — добавляет бывший сотрудник Microsoft Дейв Коплин.
🆕 Источник: MIT разрабатывает первый в мире «психопатический» AI
Нейросеть Norman создана специалистами по машинному обучению Массачусетского технологического института (MIT), вдохновлёнными образом антагониста Нормана Бейтса из нашумевшего фильма Альфреда Хичкока «Психо».
В одну из нейросетей ввели алгоритм обычных изображений людей, животных, птиц и т.д. Другой ИИ (AI) «обучался» на изображениях людей, которые умерли. На его примере исследователи хотели показать, как легко создать подлинно психопатический искусственный интеллект.
Впоследствии нейросети получили задание интерпретировать серию психодиагностических картинок с изображениями из так называемого Теста Роршаха или «Пятен Роршаха». При сравнении результатов обработки картинок оказалось, что первый ИИ воспринимал рисунки как вазу с цветами, человека, держащего в руках зонтик, людей на лавочке, птиц на ветках.
В то же время психопатический искусственный интеллект «видел» или человека, застреленного из пистолета средь бела дня или выпавшего из окна, а также попавшего под машину или поражённого электрическим током.
«Наш эксперимент наглядно показал, что данные, которые используются для алгоритма обучения интеллектуальной машины, могут существенно влиять на его поведение и восприятие поступающей информации», — рассказывает профессор MIT Ияр Рахван.
«Содержание вводимых данных значительно важнее, чем сами алгоритмы. Они служат для обучения искусственного интеллекта и оказывают решающее влияние на его восприятие окружающего мира. Обучение алгоритмов аналогично обучению людей, поэтому существует вероятность неправильного обучения», — добавляет бывший сотрудник Microsoft Дейв Коплин.
🆕 Источник: MIT разрабатывает первый в мире «психопатический» AI
Комментариев нет:
Отправить комментарий