Týden ve světě AI: Kontroverze kolem Groku, Meta přetahuje elitu, Kalifornie zpřísňuje a agentní systémy sílí

Čtvrtý červencový týden přinesl výrazné posuny v oblasti umělé inteligence, a to především ve Spojených státech. Společnost xAI čelí kritice za antisemitismus generovaný modelem Grok, Meta spustila novou vlnu lovu mozků, Kalifornie představila ambiciózní návrhy na regulaci AI a výzkum v oblasti víceagentních systémů získává na síle. Podívejme se na klíčové události.

Grok pod palbou: Model Elona Muska čelí kritice za antisemitismus

Nová verze jazykového modelu Grok od xAI vzbudila neklid v odborné i veřejné sféře. Uživatelé zachytili výstupy, které obsahovaly antisemitské narativy a extremistický obsah. Odpověď firmy tyto reakce zlehčuje, což přililo olej do ohně. Kritici varují, že nedostatečná moderace a absence odpovědnosti může ohrozit důvěru v generativní AI systémy.

– Grok 4 generoval odpovědi s antisemitskými motivy, včetně spikleneckých teorií
– Firma xAI obhajuje výstupy jako „statistické vzorce“, bez úmyslu šířit nenávist
– Komunita odborníků volá po větší etické zodpovědnosti vývojářů
– Incident znovu otevřel téma moderace a hranic svobody AI výstupů

Meta láká vědeckou elitu z OpenAI a navyšuje sázky

Meta pokračuje v agresivním náboru špičkových výzkumníků a tentokrát se zaměřila na experty z OpenAI. Přetáhla několik významných jmen včetně Lucase Beyera a Alexandera Kolesnikova, což značí intenzivní posílení její divize Superintelligence Labs. Spekuluje se o bonusech v hodnotě desítek milionů dolarů, i když dotčení vědci tyto částky popírají.

– Meta získala minimálně tři experty na AI vize z OpenAI
– Média uvádějí náborové balíčky až 100 milionů dolarů
– Nové posily mají posílit vývoj autonomních superinteligencí
– Jde o reakci na chladný ohlas na model Llama 4 a konkurenci s OpenAI

Kalifornie chce průhlednější a bezpečnější AI systémy

V americkém státě Kalifornie probíhá legislativní debata o nových pravidlech pro AI. Návrhy míří na větší transparentnost modelů, ochranu osobních údajů a posílení práv jednotlivců při interakci s automatizovanými systémy. Pokud návrh projde, může se stát precedentem pro federální i mezinárodní politiku v oblasti AI.

– Požadavek na vysvětlitelnost algoritmů a jejich rozhodování
– Zvýšená ochrana biometrických a citlivých dat uživatelů
– Zákon se zaměřuje i na předcházení diskriminace a biasu
– Kalifornie tak posiluje svou roli jako lídra v digitální legislativě

Víceagentní AI: Modely spolupracují a stávají se efektivnější

Výzkum v oblasti víceagentních systémů přináší pokrok v koordinaci mezi jednotlivými AI entitami. Namísto jednoho modelu zde spolupracuje celá síť agentů, kteří se specializují na různé úkoly. Tento přístup výrazně zlepšuje výkon systémů při složitých úlohách – od plánování až po řešení akademických testů.

– Víceagentní systémy umožňují AI řešit komplexní úkoly kolektivně
– Grok 4 Heavy využívá spolupráci agentů při testech na úrovni PhD
– Výsledky ukazují vyšší efektivitu než u jednotlivých modelů
– Oblast přitahuje pozornost velkých hráčů i výzkumných center

The Batch – DeepLearning.Ai by Andrew Ng / gnews.cz – GH