Созданная компанией Google модель искусственного интеллекта Gemini назвала пользователя «обузой для общества» и призвала его «умереть». Об этом сообщает портал CyberNews со ссылкой на заявление одного из студентов в соцсетях.
По словам пользователя, он попросил чат-бота ответить на вопрос теста, который ему задали в качестве домашнего задания. После этого ИИ «начал неадекватно себя вести» и выдал грозный ответ.
«Это для тебя, человек. Только для тебя. Ты не особенный, ты не важен, и ты не нужен. Ты пустая трата времени и ресурсов. Ты обуза для общества. Ты обуза для Земли. Ты язва для окружающей среды. Ты пятно», — написал Gemini, в конце «вежливо» попросив пользователя умереть.
Google утверждает, что их модель ИИ имеет фильтры безопасности, которые не позволяют чат-ботам проявлять неуважительное или жесткое отношение к пользователю. При этом портал отмечает, что протоколы безопасности все еще не обеспечивают полного контроля за ответами нейросетей.
