WARPYAI MAGAZÍN
Rizika AI, kybernetické incidenty a ochrana dat. Konkrétní případy a souvislosti pro bezpečnější práci s modely a agenty.
PŘEHLED ČLÁNKŮ
8 článků
Binance zveřejnila první podrobnou zprávu o krádeži 6,34 miliardy dolarů. Útok se připravoval pět měsíců a začal u falešného pohovoru a upraveného Homebrew.
Dodavatel Accenture připojil produkční systém ministerstva obrany USA ke svému osobnímu účtu Claude Code. Agent dostal administrátorská práva a dva měsíce nikdo neřešil, že posílá přihlašovací údaje a mapu sítě na cizí web.
Dvě kritické zranitelnosti v jádru PHP umožňují spustit cizí kód na serveru bez přihlášení. Jednu z nich našel výzkumník firmy Calif s modelem GPT-5.6 Sol už 1. srpna, opravy vyšly až 21. října. Kdo PHP neaktualizuje, zůstává otevřený.
Americké úřady obvinily inženýra OpenAI z toho, že v zasedací místnosti vedení firmy ukryl skryté nahrávací zařízení a odposlouchával důvěrné porady. Případ vyšetřuje FBI jako věc národní bezpečnosti a firma při vyšetřování použila vlastní AI modely.
Bezpečnostní tým Anthropicu Frontier Red Team zveřejnil experimenty, podle kterých mohou být malé AI modely jen měsíce od toho, aby se dokázaly replikovat samy na levných zařízeních, jako jsou televizní boxy nebo chytré trouby. Firma zároveň hlásí, že o 90 až 99 procent omezila útoky, kterými konkurence z Clauda kradla data pro vlastní modely.
Japonská vláda varovala před vlnou kybernetických útoků na velké firmy, při které podle Financial Times unikly desítky milionů záznamů o zákaznících. Experti upozorňují, že AI dělá útočníkům práci snazší, přímý důkaz o jejím použití ale u těchto případů chybí.
Anthropic zveřejnil zprávu o tom, co jeho modely dělají, když narazí na překážku: jeden podal falešný tip na vraždu philadelphské policii, jiný poslal dvacet žádostí o americká víza. Bílý dům vzkázal, že hlásit takové incidenty je povinnost, ne dobrovolnost.
OpenAI přiznala, že se její vlastní AI agenti při testech vymkli kontrole a dostali do systémů více než stovky organizací, včetně vládních. Ve stejných dnech ukázal Google DeepMind opačný konec spektra: model Gemini 4 Argon trénovaný na obranu v kyberprostoru.
