Chatbot AI Reddita sugeruje użytkownikom spróbowanie heroiny

Jeśli miałeś nadzieję, że chatboty AI mogą zastąpić dr Google, najnowszy eksperyment Reddita sugeruje... Może jeszcze nie teraz. Reddit Answers, asystent AI platformy, trafił ostatnio na pierwsze strony gazet po tym, jak polecał heroinę jako środek przeciwbólowy.

Jak donosi 404Media, dziwaczna rada wyszła na jaw, gdy pracownik służby zdrowia zauważył odpowiedź na subreddicie dla moderatorów. W jednej z interakcji chatbot wskazał na ten post: "Heroina, jak na ironię, uratowała mi życie w takich przypadkach".

W innym pytaniu zasugerował nawet kratom, ekstrakt z drzewa, który jest nielegalny w wielu krajach i oznaczony przez FDA "ze względu na ryzyko poważnych zdarzeń niepożądanych, w tym toksyczności wątroby, drgawek i zaburzeń związanych z używaniem substancji".

Reddit Answers nie jest standardową sztuczną inteligencją. Zamiast polegać wyłącznie na wyselekcjonowanych bazach danych, czerpie z ogromnej puli treści generowanych przez użytkowników Reddit. To sprawia, że jest dziwaczny, czasem wnikliwy. Ale oczywiście nie zawsze bezpiecznie.

Pierwotnie ograniczony do osobnej zakładki, Reddit testował odpowiedzi w regularnych rozmowach, dzięki czemu ten konkretny odcinek pozostał niezauważony... aż do teraz. Po tym, jak chatbot AI Reddita sugeruje użytkownikom spróbowanie heroiny.

Po upublicznieniu raportu Reddit zareagował, zmniejszając widoczność sztucznej inteligencji pod wrażliwymi czatami związanymi ze zdrowiem. Moderatorzy nie mieli wpływu na same porady, co podkreśla, jak eksperymentalne jest to narzędzie.

Oczywiście nie jest to pierwsza czkawka AI Reddita. Inne boty, takie jak Google AI Overviews i ChatGPT, również dostarczyły wątpliwych wskazówek zdrowotnych, w tym "wskazówek", takich jak używanie nietoksycznego kleju na pizzy, aby zapobiec zsuwaniu się sera.

Oczywiście, jeśli chodzi o porady medyczne, sztuczna inteligencja jest zabawna, ale ludzie nadal mają przewagę. Więc może nie proś go jeszcze o poradę medyczną.