Co znamenají předpisy guvernéra Newsom AI Deepfake pro volby v USA v roce 2024

Kalifornský guvernér Gavin Newsom schválil tři nové zákony zaměřené na používání AI deepfakes v politických kampaních před americkými volbami v roce 2024.

Kalifornský guvernér Gavin Newsom minulý měsíc schválil tři hlavní zákony, které mají zmírnit používání umělé inteligence (AI) při vytváření zavádějících „deepfake“ obrázků a videí pro politické kampaně. Zatímco se stát připravuje na listopadové volby, kroky guvernéra Newsoma rozšiřují kalifornský právní rámec týkající se umělé inteligence, přičemž bylo schváleno pět zákonů zaměřených na umělou inteligenci – z nichž tři řeší šíření dezinformací souvisejících s volbami. Přísnější předpisy přicházejí po vysoce sledovaném incidentu zahrnujícího generálního ředitele X Elona Muska, který sdílel a která falešně vykreslovala viceprezidentku Kamalu Harrisovou, která sama sebe nazývala „nájemníkem pro rozmanitost“.

Mezi přijatými předpisy je zákon na obranu demokracie před Deepfake Deception Act ( ) požaduje, aby platformy sociálních médií omezily uživatele ve zveřejňování „klamavého“ obsahu, včetně pozměněných médií zkreslujících slova nebo činy veřejné osobnosti. Zákon vychází ze zákona z roku 2019 ( ) podepsaný společností Newsom, čímž bylo zakázáno distribuovat zavádějící média určená k dehonestaci politických kandidátů. Další zákon, AB 2839, popsaný jako „nouzové opatření“, zakazuje šíření falešného obsahu do 120 dnů od voleb v Kalifornii. Třetí, AB 2355, nařizuje, aby politické reklamy nebo videa vytvořená pomocí AI sdělovala tyto informace divákům za účelem transparentní politické kampaně.

„Ochrana integrity voleb je pro demokracii zásadní a je zásadní, abychom zajistili, že AI nebude nasazena k podkopání důvěry veřejnosti prostřednictvím dezinformací – zvláště v dnešním napjatém politickém klimatu,“ uvedl v __ __. „Tato opatření pomohou v boji proti škodlivému používání deepfake v politických reklamách a jiném obsahu, což je jedna z několika oblastí, ve kterých stát aktivně podporuje transparentní a důvěryhodnou AI.“

Zákony přicházejí v klíčovou dobu, protože deepfake obsah vytvořený prostřednictvím generativních modelů umělé inteligence (genAI) se vyvinul do bodu, kdy lidské oči již nedokážou rozlišovat mezi skutečným a vytvořeným umělou inteligencí. Podle roku 2024 90 % online obsahu by mohlo být synteticky generováno do roku 2026. Podobně nedávná studie KPMG s názvem „ , zjistili, že za posledních několik let se deepfakes zvýšily o 900 %.

Legislativní úsilí Newsomu však vyvolalo na sociálních sítích debatu o budoucnosti technologií. Zatímco zastánci považují zákony za zásadní pro ochranu voličů před dezinformacemi při volbách, kritici, včetně Muska, tvrdí, že takové zákony potlačují svobodu slova. V příspěvku na X Musk přirovnal guvernéra Newsoma k „Jokerovi“.

„Obsah generovaný umělou inteligencí přesahuje to, co můžeme chápat jako skutečný, napodobeninu nebo parodii. Je jasné, že existuje obsah generovaný umělou inteligencí, který je záměrně klamavý. Minimálně potřebujeme mít systémy, které poskytují kontext nahrávek, videí a obrázků generovaných umělou inteligencí,“ , CEO a spoluzakladatel genA.I. platforma pro detekci obsahu , řekl mi. "Platformy a organizace musí přijmout tyto modely, aby chránily spotřebitele a zabránily tomu, aby rozsáhlé dezinformační kampaně ovlivňovaly volby."

Členka shromáždění Gail Pellerin, autorka návrhu zákona AB 2839, zdůraznila naléhavost řešení nebezpečí deepfakes. „Do všeobecných voleb zbývá méně než 50 dní, a proto je naléhavě nutné chránit se před zavádějícím, digitálně pozměněným obsahem, který může ovlivnit průběh voleb. Uzákoněním AB 2839 se Kalifornie staví proti manipulativnímu používání technologie deepfake ke klamání voličů,“ řekla. v prohlášení.

Kalifornské deepfake zákony by mohly sloužit jako vzor pro další státy. Zatímco 20 států, včetně New Yorku, Texasu a Floridy, již uzákonilo pokud jde o deepfakes související s volbami, účinnost těchto zákonů zůstává velkou otázkou. Techničtí giganti včetně Meta a X nedávno pro nekonzistentní genA.I. moderování obsahu, zatímco jiní jako Microsoft již integrovali speciální modely AI jako např ke sledování a moderování obsahu generovaného umělou inteligencí. Techničtí experti naznačují, že i když je prodloužení ochranné lhůty na 120 dní krokem správným směrem, samo o sobě nezastaví šíření dezinformací řízených umělou inteligencí.

„Obtíž nespočívá pouze ve vytváření zákonů, ale také v jejich prosazování napříč digitálními platformami, které pokrývají různé jurisdikce, jak národní, tak mezinárodní. Navrhování rámců, které jsou dostatečně adaptabilní, aby vyhovovaly rychlému pokroku v AI, je zásadní,“ , vedoucí designu AI ve společnosti Coca-Cola, mi řekl. „Právní rámce, i když jsou důležité, budou vždy zaostávat za technologickou křivkou. Nemůžeme se spoléhat pouze na zákony; musíme se zaměřit na budování systémů umělé inteligence, které se mohou samy detekovat a přizpůsobovat v reálném čase. Brzy uvidíme svět, kde umělá inteligence řídí umělou inteligenci s lidským dohledem.“

Tato instance zdůrazňuje rostoucí složitost vyvažování inovací AI se společenskými zárukami. Kalifornie se prozatím snaží jít příkladem, ale to, zda tato opatření účinně bojují proti dezinformacím řízeným umělou inteligencí nebo omezují svobodu projevu, bude určovat budoucnost umělé inteligence v politických kampaních v nadcházejících letech.