Félek. Nagyon ijedt.
Az egész internetre kiterjedő megfigyelés és cenzúra, amelyet a mesterséges intelligencia (AI) elképzelhetetlenül hatalmas számítási teljesítménye tesz lehetővé.
Ez nem futurisztikus disztópia. Ez most történik.
A kormányhivatalok egyetemekkel és nonprofit szervezetekkel dolgoznak azon, hogy mesterséges intelligencia eszközöket használjanak az internetes tartalmak megfigyelésére és cenzúrázására.
Ez nem politikai vagy pártpolitikai. Ez nem egy konkrét véleményről vagy elképzelésről szól.
Az történik, hogy a kormány rendelkezésére áll egy elég hatékony eszköz ahhoz, hogy felügyeljen mindent, amit az interneten mondanak és csinálnak (vagy annak nagy részét), hogy mindannyiunkat folyamatosan figyelemmel kísérhessen. És a megfigyelés alapján a kormány – és bármely szervezet vagy vállalat, amellyel a kormány partnere – ugyanezt az eszközt használhatja arra, hogy elnyomjon, elhallgattasson és leállítson minden olyan beszédet, amely nem tetszik neki.
De ez még nem minden. Ugyanezzel az eszközzel a kormány és állami-magán, „nem kormányzati” partnerei (gondoljunk például az Egészségügyi Világszervezetre vagy a Monsantóra) is leállíthatnak minden olyan tevékenységet, amely az internethez kapcsolódik. Banki ügyintézés, vásárlás, eladás, tanítás, tanulás, szórakoztatás, kapcsolattartás – ha a kormány által irányított mesterséges intelligencia nem szereti, amit Ön (vagy a gyerekei!) mond egy tweetben vagy e-mailben, akkor mindezt leállíthatja. te.
Igen, ezt nagyon lokális és átpolitizált léptékben láttuk, pl. a kanadai kamionosok.
De ha azt gondolnánk, hogy ez a fajta tevékenység országos (vagy még ijesztőbb – globális) léptékben nem valósulhat meg, vagy nem fog megtörténni, akkor most azonnal fel kell ébrednünk, és rá kell jönnünk, hogy ez történik, és lehet, hogy nem lehet megállítani.
Az új dokumentumok állami finanszírozású, online cenzúrára szánt mesterséges intelligenciát mutatnak be
Az Egyesült Államok képviselőházának a szövetségi kormány fegyverkezésével foglalkozó albizottsága 2023 januárjában alakult, hogy kivizsgálja az Egyesült Államok állampolgáraira vonatkozó információk végrehajtó hivatalok általi gyűjtésével, elemzésével, terjesztésével és felhasználásával kapcsolatos ügyeket, beleértve azt is, hogy az ilyen erőfeszítések jogellenesek, alkotmányellenesek vagy egyéb etikátlanok-e.
Sajnos a bizottság munkáját még saját tagjai is nagyrészt politikainak tekintik: a konzervatív törvényhozók azt vizsgálják, hogy szerintük mi a konzervatív hangok elhallgattatása a liberális beállítottságú kormányzati szervek által.
Ennek ellenére a bizottság vizsgálatai során elképesztő dokumentumokat tárt fel az amerikai állampolgárok beszédének cenzúrázására tett kormányzati kísérletekkel kapcsolatban.
Ezeknek a dokumentumoknak döntő és félelmetes hatásai vannak az egész társadalomra.
Az albizottság időközi jelentésében 5. február 2024-én kelt, a dokumentumok azt mutatják, hogy tudományos és nonprofit csoportok egy kormányzati ügynökséget javasolnak, hogy mesterséges intelligencia „félretájékoztatási szolgáltatásokat” alkalmazzanak az internetes platformokon található tartalmak cenzúrázására.
A Michigani Egyetem konkrétan elmagyarázza a National Science Foundation-nek (NSF), hogy az NSF által finanszírozott mesterséges intelligencia-alapú eszközök felhasználhatók arra, hogy segítsék a közösségi média platformokat cenzúrázó tevékenységekben anélkül, hogy ténylegesen meg kellene hozniuk a cenzúrázandó döntéseket.
A kapcsolat a következőképpen jelenik meg az albizottság jelentésében:
Íme egy konkrét idézet az albizottság jelentésében. „A Michigani Egyetem előadójának a Nemzeti Tudományos Alapítványhoz (NSF) intézett első feljegyzéseiből származik az NSF által finanszírozott, mesterséges intelligencia által hajtott WiseDex eszközről.” A feljegyzések a bizottságnál vannak.
Félretájékoztatási szolgáltatásunk olyan platformokon segíti a döntéshozókat, akik… a nehéz ítéletekért a felelősséget a vállalaton kívüliekre akarják hárítani… a cenzúra nehéz felelősségének kihelyezésével.
Ez egy rendkívüli kijelentés sok szinten:
- Kifejezetten egyenlőségjelet tesz a „félreinformációs szolgáltatás” és a cenzúra közé.
Ez egy kulcsfontosságú egyenlet, mert a kormányok világszerte úgy tesznek, mintha küzdenének a káros félretájékoztatás ellen, pedig valójában hatalmas cenzúratörvények elfogadása Az – jelentette ki a WEF A „félretájékoztatás és dezinformáció” a „legsúlyosabb globális kockázatok” a következő két évben, ami feltehetően azt jelenti, hogy a legnagyobb erőfeszítéseiket a cenzúra felé fogják fordítani.
Amikor egy állami vállalkozó kifejezetten kijelenti, hogy „félretájékoztatási szolgáltatást” ad el, amely segít az online platformoknak „a cenzúra externalizálásában”, a két kifejezést felcserélhetőnek ismerik el.
- A cenzúrára mint „felelősségre” utal.
Más szóval azt feltételezi, hogy a platformok tevékenységének egy része a cenzúra. Nem védjük meg a gyerekeket a szexragadozóktól vagy az ártatlan állampolgárokat a félretájékoztatástól – csak egyszerű és egyszerű, hamisítatlan cenzúra.
- Kimondja, hogy az AI szerepe az, hogy „külsővé tegye” a cenzúra felelősségét.
A Tech platformok nem akarnak cenzúraszerű döntéseket hozni. A kormány meg akarja hozni ezeket a döntéseket, de nem akarja, hogy cenzúrázónak tekintsék. Az AI-eszközök lehetővé teszik a platformok számára, hogy „külsővé tegyék” a cenzúra döntéseit, a kormány pedig elrejtse cenzúra tevékenységét.
Mindez véget vet annak az illúziónak, hogy amit a kormányok világszerte „félretájékoztatás és gyűlöletbeszéd elleni küzdelemnek” neveznek, az nem egyenes cenzúra.
Mi történik, ha a mesterséges intelligencia cenzúráját teljesen végrehajtják?
Tudva, hogy a kormány már fizet a mesterséges intelligencia cenzúra eszközeiért, meg kell fontolnunk, hogy ez mit is jelent.
Nincs létszámkorlát: Amint az albizottság jelentése rámutat, a kormányzati online cenzúra korlátai mindmáig azt a nagyszámú embert érintették, hogy végtelen számú aktát kellett átnézniük és cenzúrával kapcsolatos döntéseket hozniuk. A mesterséges intelligencia esetében alig kell embereket bevonni, és a megfigyelhető adatok mennyisége olyan hatalmas lehet, mint bármi, amit bárki mond egy adott platformon. Ez az adatmennyiség felfoghatatlan az egyes emberi agy számára.
Senki nem felelős: A mesterséges intelligencia cenzúrájának egyik legfélelmetesebb aspektusa az, hogy amikor a mesterséges intelligencia ezt csinálja, nincs olyan ember vagy szervezet – legyen az a kormány, a platformok vagy az egyetem/nonprofit szervezetek –, aki ténylegesen felelős a cenzúráért. Kezdetben az emberek utasításokat adnak a mesterséges intelligencia eszköznek arra vonatkozóan, hogy milyen kategóriákat vagy típusú nyelveket kell cenzúrázni, de aztán a gép továbbmegy, és teljesen önállóan hozza meg az eseti döntéseket.
Nincs jogorvoslati lehetőség: Amint a mesterséges intelligencia elszabadul egy sor cenzúra-utasítással, online adatpontok sok milliárdját fogja felsöpörni, és cenzúralépéseket hajt végre. Ha meg akar támadni egy AI cenzúra akciót, beszélnie kell a géppel. Talán a platformok embereket fognak alkalmazni a fellebbezésekre. De miért tennék ezt, ha van olyan mesterséges intelligencia, amely képes automatizálni ezeket a válaszokat?
Nincs védelem a fiatalok számára: A kormányzati cenzorok egyik állítása az, hogy meg kell védenünk gyermekeinket a káros online információktól, például az olyan tartalmaktól, amelyek étvágytalanná teszik őket, öngyilkosságra ösztönzik őket, ISIS terroristákat csinálnak belőlük stb. Szexuális kizsákmányolástól is. Ezek mind komoly kérdések, amelyek figyelmet érdemelnek. De közel sem olyan veszélyesek sok fiatal számára, mint az AI-cenzúra.
A mesterséges intelligencia cenzúrája által jelentett veszély minden olyan fiatalra vonatkozik, aki sok időt tölt az interneten, mert ez azt jelenti, hogy online tevékenységeiket és nyelvezetüket figyelemmel kísérhetik és felhasználhatják ellenük – talán nem most, de amikor a kormány úgy dönt, hogy egy adott típus után megy. nyelvről vagy viselkedésről. Ez sokkal nagyobb veszélyt jelent sokkal több gyermek számára, mint bármely konkrét tartalom által jelentett veszély, mert magában foglalja az összes online tevékenységüket, érintve életük szinte minden területét.
Íme egy példa a veszély szemléltetésére: Tegyük fel, hogy tinédzsered sok interaktív videojátékkal játszik online. Tegyük fel, hogy történetesen a kínai cégek által tervezett játékokat kedveli. Talán azt is nézi, ahogy mások játszanak ezekkel a játékokkal, és részt vesz az ezekről a játékokról szóló chatekben és vitacsoportokban, amelyekben sok kínai állampolgár is részt vesz.
A kormány a jövő hónapban vagy jövőre úgy dönthet, hogy bárki, aki nagymértékben foglalkozik kínai tervezésű videojátékokkal, veszélyt jelent a demokráciára. Ez azt eredményezheti, hogy leállítja fia közösségimédia-fiókját, vagy megtagadhatja tőle a hozzáférést a pénzügyi eszközökhöz, például az egyetemi hitelekhez. Ez magában foglalhatja azt is, hogy veszélyesként vagy nemkívánatosként megjelöli őt munkavállalási vagy társkereső webhelyeken. Ez azt jelentheti, hogy megtagadják tőle az útlevelet, vagy felkerül a figyelőlistára.
A tinédzser élete most sokkal nehezebbé vált. Sokkal nehezebb, mintha egy ISIS toborzóvideójának vagy öngyilkosságot dicsőítő TikTok-bejegyzésének lenne kitéve. És ez sokkal nagyobb léptékben történne, mint a a cenzorok által alkalmazott szexuális kizsákmányolás trójai falóként az online kormányzati cenzúra gondolatának normalizálásáért.
Bevételszerzésre alkalmas cenzúraszolgáltatások: A kormány tulajdonában lévő mesterséges intelligencia eszközt elméletileg a kormány engedélyével és azon platformok áldásával használhatja a civil szervezet, amelyek a cenzúra „felelősségét” akarják „külsősíteni”. Tehát míg a kormány mesterséges intelligencia segítségével figyeli és elnyomja, mondjuk példaként, a háborúellenes hangulatot – egy vállalat használhatja a gyorsétterem-ellenesség megfigyelésére és elnyomására, például. A kormány sok pénzt kereshet azzal, hogy az AI-eszközök szolgáltatásait harmadik feleknek adná el. Elképzelhető, hogy a platformok vágást is kérhetnek. Így az AI cenzúra eszközei potenciálisan a kormány, a technológiai platformok és a magánvállalatok hasznára válhatnak. Az ösztönzők olyan erősek, hogy szinte elképzelhetetlen, hogy ne használják ki őket.
Megfordíthatjuk az irányt?
Nem tudom, hány kormányzati ügynökség és hány platform használ AI cenzúra eszközöket. Nem tudom, milyen gyorsan tudnak növekedni.
Nem tudom, milyen eszközök állnak rendelkezésünkre – azon kívül, hogy felhívjuk a figyelmet, és megpróbálunk lobbizni a politikusoknál, és pereket indítunk a kormányzati cenzúra megelőzése és az AI-eszközök internetes használatának szabályozása érdekében.
Ha valakinek van más ötlete, itt az ideje megvalósítani.
Csatlakozz a beszélgetéshez:
Megjelent egy Creative Commons Nevezd meg! 4.0 Nemzetközi licenc
Újranyomtatáshoz kérjük, állítsa vissza a kanonikus linket az eredetire. Brownstone Intézet Cikk és szerző.
