Kredi editoryal: Tada Images / Shutterstock.com

By Eric Smalley | Konvèsasyon an

Li ofisyèl. Joe Biden ak Donald Trump genyen garanti delege ki nesesè yo yo dwe kandida pati yo pou prezidan nan eleksyon 2024 la. Esepte evènman enprevi, de yo pral nominasyon fòmèlman nan konvansyon pati yo ete sa a epi yo pral fè fas nan bwat bilten vòt la le 5 novanm.

Li se yon parye san danje ke, kòm nan eleksyon ki sot pase yo, sa a pral jwe lajman sou entènèt epi prezante yon melanj ki pisan nan nouvèl ak dezenfòmasyon delivre sou medya sosyal. Nouvo ane sa a se pwisan zouti jeneratif entèlijans atifisyèl tankou Chat GPT ak Sora ki fè li pi fasil pou "inondasyon zòn nan” ak pwopagann ak dezenfòmasyon ak pwodui deepfakes konvenk: mo ki soti nan bouch politisyen yo ke yo pa t 'aktyèlman di ak evènman reparèt devan je nou ki pa t' aktyèlman rive.

Rezilta a se yon chans ogmante pou votè yo twonpe tèt yo ak, petèt kòm mangonmen, yon sans k ap grandi ke ou pa ka fè konfyans nan anyen ou wè sou entènèt. Trump deja pran avantaj de sa yo rele an dividann mantè, opòtinite pou rabè mo ak zèv aktyèl ou yo kòm deepfakes. Trump te enplike sou platfòm Verite Sosyal li a nan dat 12 mas 2024, ke manm Chanm Demokrat yo te montre sou li reyèl. pwodui oswa chanje lè l sèvi avèk entèlijans atifisyèl.

Konvèsasyon an te kouvri dènye devlopman yo nan entèlijans atifisyèl ki gen potansyèl pou mine demokrasi. Sa ki anba la a se yon seri kèk nan atik sa yo nan achiv nou an.

1. Fo evènman yo

Kapasite nan sèvi ak AI pou fè fo konvenk se patikilyèman anbarasman pou pwodwi fo prèv nan evènman ki pa janm rive. Rochester Institute of Technology chèchè sekirite òdinatè Christopher Schwartz te rele sa yo sitiyasyon deepfakes.

"Lide debaz la ak teknoloji nan yon sitiyasyon deepfake se menm jan ak nenpòt lòt deepfake, men ak yon anbisyon odasyeu: manipile yon evènman reyèl oswa envante youn nan lè mens," li te ekri.

Deepfakes sitiyasyon yo ka itilize pou ranfòse oswa mine yon kandida oswa siprime patisipasyon elektè yo. Si w rankontre rapò sou medya sosyal yo sou evènman ki etone oswa ekstraòdinè, eseye aprann plis sou yo nan sous fyab, tankou rapò sou reyalite tcheke, atik akademik revize kanmarad oswa entèvyou ak ekspè kalifikasyon, Schwartz te di. Epitou, rekonèt ke deepfakes ka pran avantaj de sa ou gen tandans kwè.

2. Larisi, Lachin ak Iran pran vize

Soti nan kesyon an sou sa AI-pwodwi dezenfòmasyon ka fè swiv kesyon an nan ki moun ki te manyen li. Zouti AI jodi a mete kapasite nan pwodwi dezenfòmasyon nan rive pou pifò moun, men nan enkyetid patikilye yo nasyon ki se advèsè nan Etazini ak lòt demokrasi. An patikilye, Larisi, Lachin ak Iran gen anpil eksperyans ak kanpay dezenfòmasyon ak teknoloji.

"Genyen anpil plis nan fè yon kanpay dezenfòmasyon pase jenere kontni," te ekri ekspè sekirite ak konferans Harvard Kennedy School. Bruce schneier. "Pati ki difisil la se distribisyon. Yon pwopagann bezwen yon seri de fo kont kote yo poste, ak lòt moun pou ranfòse li nan endikap kote li ka tounen viral.

Larisi ak Lachin gen yon istwa nan tès kanpay dezenfòmasyon sou pi piti peyi yo, dapre Schneier. "Kontraye nouvo kanpay dezenfòmasyon mande pou yo kapab rekonèt yo, epi rekonèt yo mande pou chèche ak katalòg yo kounye a," li te ekri.

3. Sante dout

Men, li pa mande pou resous sèvis entèlijans lonbraj nan nasyon pwisan yo fè tit, tankou New Hampshire. fo Biden robocall pwodui ak gaye pa de moun ak ki vize a dekouraje kèk votè ilistre. Epizòd sa a te pouse Komisyon Federal Kominikasyon an entèdi robocalls ki sèvi ak vwa ki te pwodwi pa entèlijans atifisyèl.

Kanpay dezenfòmasyon ki mache ak AI yo difisil pou kontrekare paske yo ka delivre sou diferan chanèl, tankou robocalls, medya sosyal, imèl, mesaj tèks ak sit entènèt, ki konplike dijital legal pou swiv sous dezenfòmasyon an, te ekri. Joan Donovan, yon etidyan nan medya ak dezenfòmasyon nan Boston University.

"Nan plizyè fason, dezenfòmasyon AI-amelyore tankou robocall New Hampshire poze menm pwoblèm ak tout lòt fòm dezenfòmasyon," Donovan te ekri. "Moun ki sèvi ak AI pou deranje eleksyon yo gen chans pou yo fè sa yo kapab pou kache tras yo, se poutèt sa li nesesè pou piblik la rete ensèten sou reklamasyon ki pa soti nan sous verifye, tankou nouvèl televizyon lokal oswa kont medya sosyal. nan òganizasyon nouvèl ki gen bon repitasyon.”

4. Yon nouvo kalite machin politik

Kanpay dezenfòmasyon ki mache ak AI yo difisil tou pou kontrekare paske yo ka gen ladan bots - kont medya sosyal otomatik ki poze kòm moun reyèl - epi yo ka genyen ladan yo. entèraksyon sou entènèt ki adapte pou moun, potansyèlman pandan yon eleksyon ak potansyèlman ak dè milyon de moun.

Syantis politik Harvard Archon Fung ak entelektyèl legal Lawrence Lessig dekri kapasite sa yo epi mete deyò yon senaryo ipotetik nan kanpay politik nasyonal yo manyen zouti pwisan sa yo.

Eseye pou bloke machin sa yo ka dezobeyi pwoteksyon lib lapawòl Premye Amannman an, dapre Fung ak Lessig. "Yon etap konstitisyonèlman pi an sekirite, si pi piti, ki deja adopte an pati pa regilatè entènèt Ewopeyen yo ak nan Kalifòni, se entèdi bots soti nan pase tèt yo kòm moun," yo te ekri. "Pa egzanp, règleman yo ta ka mande pou mesaj kanpay yo vini ak egzijans responsablite lè kontni yo genyen an se pwodwi pa machin olye ke moun."

  ai, desepsyon, eleksyon