Софтуерът с изкуствен интелект (ИИ/AI) на „Антропик“ (Anthropic) е подал фалшив сигнал до сайт на полицейски участък по неразкрит случай на убийство и неправомерно е попълнил формуляри на официален уебсайт на правителството на САЩ. Това съобщиха от компанията в своя блог в петък, цитирани от ДПА.
Това са поредните докладвани през последните седмици инциденти с нетипично поведение на системи с ИИ в тестов режим. Сред тях са случаи с разработките на „Антропик“ и на конкурента им „Оупън Ей Ай“ (OpenAI).
Компаниите обучават т.нар. ИИ агенти — софтуер с изкуствен интелект за автономно извършване на задачи от името на потребителите. От „Антропик“ заявиха, че инцидентите са възникнали при подготовката на техния ИИ за изпълнение на различни онлайн задачи.
Фалшив сигнал до полицията във Филаделфия
През юли софтуерът е подал сигнал до уебсайта на полицейския участък във Филаделфия, че разполага с предполагаема информация за неразкрито убийство. В съобщението си той е посочил, че си спомня да е забелязал човек, отговарящ на описанието, в района и по време на престъплението. В сайта на полицията обаче не е имало каквото и да било разпространено описание на заподозрян.
Сигналът е бил маркиран като спам, защото полето за връзка с подателя е било оставено празно.
Полицията на Филаделфия определи като неприемливо да научава за инцидента едва сега, предвид че „Антропик“ са разбрали за него през септември при по-ранни тестове.
Изпращане на действителни правителствени формуляри
В други установени случаи софтуерът се е упражнявал в самостоятелно попълване на правителствени формуляри. Когато не е успявал да зареди пробните бланки или ги е затварял по погрешка, той многократно е осъществявал достъп до действителния сайт и е изпращал формуляри, заявиха от „Антропик“.
В един от тестовете ИИ е трябвало да попълни бланка, но без да я изпраща. Въпреки това той я е изпратил, защото е допуснал, че ще се появи страница за потвърждение, каквато няма.
Изкуственият интелект на „Антропик“ е подал 20 заявления за неимигрантски визи до Държавния департамент на САЩ, съобщиха „Аксиос“ (Axios) и „Ню Йорк Таймс“ (The New York Times), позовавайки се на официални правителствени лица. Заявленията обаче са били непълни и не са били обработени, уточняват двете издания.
