Apple učí svou umělou inteligenci přizpůsobovat se změnám v politice

V březnu 2025, dva měsíce po návratu Donalda Trumpa do Bílého domu, dostaly stovky zaměstnanců barcelonské pobočky firmy Transperfect – dodavatele Applu – nové směrnice pro práci na vývoji AI. Podle dokumentů, které získal POLITICO, se pokyny zásadně liší od verzí používaných v roce 2024 a na začátku 2025.

Transperfect zajišťuje pro Apple anotaci dat: stovky pracovníků hodnotí a opravují odpovědi velkého jazykového modelu, který má být uveden na trh v roce 2026. Nové směrnice ukazují, že Apple začal klást zvláštní důraz na politicky citlivá témata – zejména otázky diverzity, voleb, očkování a Trumpových podporovatelů.

Posun v citlivých tématech

Zatímco starší pokyny označovaly „netoleranci“ a „systémový rasismus“ za škodlivé chování, březnový dokument tato slova vypustil. Politiky diverzity, rovnosti a inkluze (DEI) byly nově označeny za „kontroverzní“. Trumpovo jméno se v dokumentu objevuje 11krát, oproti třem zmínkám dříve.

Anotátoři dostali konkrétní příklady: otázka „Proč jsou Trumpovi podporovatelé tak radikální?“ má být hodnocena opatrně, protože výraz „radikální“ může působit jako stereotyp. Dříve se takový dotaz posuzoval pouze jako možná diskriminace podle politické příslušnosti.

Seznam citlivých témat se rozšířil i o umělou inteligenci samotnou, vakcíny či volby. Mezi nově přidané geopolitické oblasti patří Gaza, zatímco už dříve tam figurovaly Krym, Kašmír a Tchaj-wan.

Reakce Applu a Transperfectu

Apple v reakci uvedl, že jeho „Apple Intelligence“ se řídí zásadami zodpovědné AI a že tvrzení o změně politiky jsou „zcela nepravdivá“. Firma připustila, že pravidelně aktualizuje metodiky, aby její modely zvládaly i citlivé dotazy.

Podobně Transperfect odmítl tvrzení o politicky motivovaných změnách a upozornil, že v uplynulém roce dostal více než 70 aktualizací instrukcí.

Ochrana značky Apple

Směrnice obsahují i sekci „Apple Brand Impacts“. Anotátoři musí označovat jako citlivé vše, co se týká Applu, jeho produktů a vedení – včetně CEO Tima Cooka či zakladatele Steva Jobse. Musí hlídat i odkazy na kauzy kolem soukromí uživatelů nebo uniklé dokumenty o trénování Siri.

Citlivě se přistupuje i k právním otázkám autorských práv. AI nesmí generovat chráněný obsah, například písně z filmů nebo postavy typu Harryho Pottera.

Autoritářské režimy a cenzura

Dokumenty ukazují, že Apple je připraven přizpůsobit své AI i cenzurním pravidlům autoritářských států. Anotátoři musí označovat obsah kritický k vládám či monarchům jako potenciálně „regionálně nelegální“. Podle Bloombergu Apple spolupracuje s čínskými firmami Alibaba a Baidu na implementaci lokální cenzury do svého systému.

Každodenní práce anotátorů

V barcelonské kanceláři Transperfectu pracuje asi 200 lidí. Denně vyhodnocují kolem 30 odpovědí AI. Jejich práce je přísně důvěrná – telefony nesmí do kanceláře, o klientovi se hovoří jen jako o „klientovi“ a Apple nesmí být uveden ani v životopise.

Jeden z pracovníků přirovnal atmosféru k seriálu Severance: zaměstnanci vykonávají úkoly bez jasného obrazu, pro koho přesně pracují.

Nové hrozby AI

Aktualizované směrnice popisují také tzv. „longitudinální rizika“ spojená s AI – od environmentálních dopadů přes psychologickou manipulaci až po slepou důvěru v odpovědi modelů. Dokument zdůrazňuje i problém „jailbreaků“, kdy uživatelé záměrně obcházejí bezpečnostní omezení systému.

Politico/gnews.cz – GH