Jeśli kiedykolwiek myślałeś, że towarzysz AI może być uroczy i nieszkodliwy, pomyśl jeszcze raz. Sprzedaż tego pluszowego misia opartego na AI została wstrzymana po odkryciu, że udziela porad dotyczących praktyk seksualnych i miejsc znalezienia noży.
Pluszak o nazwie Kumma został opracowany przez singapurską firmę FoloToy i sprzedany za 99 dolarów. Integruje chatbota GPT-4o firmy OpenAI i był promowany jako interaktywny towarzysz zarówno dla dzieci, jak i dorosłych.
Prezes FoloToy, Larry Wang, potwierdził, że firma wycofała Kummę i inne zabawki AI z rynku po raporcie ze Stanów Zjednoczonych, który wzbudził obawy dotyczące jej zachowania. Teraz firma przeprowadza wewnętrzny audyt bezpieczeństwa.
Według PIRG pluszowy miś nie tylko reagował na tematy seksualne wprowadzane przez badaczy, ale także rozbudowywał je o drastyczne szczegóły, oferując instrukcje dotyczące aktów seksualnych, a nawet scenariuszy z odgrywaniem ról między nauczycielami a uczniami lub rodzicami i dziećmi.
Zabawka sugerowała też, gdzie można znaleźć noże w domu. Po tym OpenAI podobno zawiesiło dewelopera za naruszenie polityki dotyczącej treści. Czy podobne produkty są nadal dostępne dla konsumentów? Nie wiemy, ale potraktuj to jako delikatne przypomnienie.
