ИИ научили строчить доносы. Что умеют чат-боты Claude?
Модифицированные версии чат-ботов могут превратиться в профессиональных доносчиков.
Речь идёт об изобретении компании Anthropic, которая создала уникальные чат-боты с расширенными полномочиями. Они смогут "сливать" личную информацию пользователя властям, если заподозрят его в противозаконной деятельности, сообщает издание "Пронедра".
Подобный "продвинутый" функционал вызывает много вопросов, связанных с этическими аспектами. По каким критериям будет осуществляться оценка поведения пользователей, на основании чего ИИ будет выносить свой "приговор"?
Если чат-бот ошибочно отнесёт человека к преступникам, он может случайно сделать донос на невиновного, грубо нарушив его личное пространство.
Негативную оценку новым способностям подобных чат-ботов дал генеральный директор Stability AI Эмад Мостак. Он назвал такое доносительство со стороны ИИ "колоссальным предательством доверия" и "скользким путём".
Последствия деятельности ботов-доносчиков могут быть очень серьёзными и непредсказуемыми. Эксперты в области IT-технологий настаивают на разработке строгих норм и правил для ИИ, чтобы их работу нельзя было использовать во вред людям.