USA wzywają szefów banków w sprawie ryzyka cybernetycznego AI wynikającego z najnowszego modelu AI firmy Anthropic
Urzędnicy ostrzegają, że nowy system może ujawnić krytyczne luki w całej infrastrukturze finansowej.
Amerykańscy urzędnicy wezwali do Waszyngtonu najwyższych przedstawicieli banków w związku z rosnącymi obawami o zagrożenia cyberbezpieczeństwa związane z nowym modelem AI opracowanym przez Anthropic. Spotkanie, któremu podobno przewodniczy sekretarz skarbu Scott Bessent, odbyło się niedługo po zaprezentowaniu najnowszego systemu firmy, Claude'a Mythosa.
Wśród uczestników jest Jerome Powell, a także menedżerowie z dużych instytucji finansowych, takich jak Goldman Sachs, Bank of America i Citigroup. Spotkanie koncentruje się na potencjalnych zagrożeniach związanych z zaawansowanymi narzędziami AI zdolnymi do identyfikowania i wykorzystywania luk w oprogramowaniu na poziomie porównywalnym lub przewyższającym ludzkich ekspertów.
Anthropic niedawno ostrzegł, że jego model ujawnił tysiące wcześniej niewykrytych słabości w szeroko stosowanych systemach, co budzi obawy, że taka technologia może być nadużywana przez hakerów. Wyciek kodu modelu na początku tego miesiąca nasilił obawy, a firma przyznała, że szerszy wpływ na gospodarki i bezpieczeństwo narodowe może być znaczący.
W odpowiedzi Anthropic ograniczył dostęp do modelu do ograniczonej grupy firm, w tym dużych firm technologicznych i organizacji infrastrukturalnych. To pierwszy raz, gdy firma wprowadziła limitowany wypuszczenie produktu.
