A mesterséges intelligencia mindenhol jelen van. Mindenbe beépül. Ez egyszerűen haladás, mondják nekünk. És ezért el kell fogadnunk, nehogy ludditának tűnjünk, és hagyjuk, hogy Kína győzzön (bármit is jelentsen ez). Ugyanakkor sokan félnek a mesterséges intelligencia miatt. Nagyon félnek. És néha azt mondják nekünk, hogy nekünk is félnünk kellene. A mesterséges intelligenciát övező nyilvános diskurzusban azonban gyakran hiányoznak a részletek azzal kapcsolatban, hogy pontosan mitől kellene félnünk. Néha az sem világos, hogy mit jelent a „mesterséges intelligencia” kifejezés.
Technikailag szólva, ahogy én is tettem érintett Korábban azt lehetett állítani (ahogy néhány idősebb informatikus is teszi), hogy a mesterséges intelligencia egy gyűjtőfogalom, amely matematikai alapú algoritmuscsaládot takar, és amely néha több mint fél évszázados múltra tekint vissza.
Gyakorlatilag számos olyan program, amellyel évek óta együtt élünk, mint például a Google Térkép és az Amazon ajánlórendszere, mesterséges intelligenciának tekinthető az újdonság hiánya ellenére. A közbeszédben azonban az MI kifejezés inkább a generatív MI-re (pl. ChatGPT) utal, valamint számos hipotetikus jövőbeli programra, amelyek mindent megtesznek, amit az emberek, csak jobban, ezért egyrészt megoldják az összes problémánkat, másrészt a legtöbbünket munka nélkül hagyják, másrészt pedig végül úgy dönthetnek, hogy teljes mértékben Skynet-ként bánnak velünk, hacsak úgy nem döntenek, hogy nem érjük meg a fáradságot.
(Elég szexin hangzik. Talán valakinek filmsorozatot kellene készítenie róla. Talán az embereknek ötből kettő tetszeni is fog.)
Sajnos azonban ezek a mesterséges intelligencia jelentette fenyegetés(ek)nek ezek a hiperbolikus, sci-fi ábrázolásai általában több figyelmet kapnak, mint a magánéletet, a szabadságot, az autonómiát, sőt, akár csak az életmódot fenyegető realisztikusabb és közvetlenebb fenyegetések, amelyeket sokan közülünk élveznek, és következésképpen elvonják a figyelmet róluk. Automatikus engedély lemez olvasók, arcfelismerő, digitális nagymamák, kötelező ittas és figyelmetlen vezetés észlelési programok, bármelyik technológia, amiről az „unokája” kiabált a „Autonóm Szállítórobot, "És viselhető felvevőeszközök Azok a szolgáltatások, amelyek leírják és feldolgozzák a személyes beszélgetéseket az antiszociális és könnyen elterelődő emberek számára, csak néhány példa a reálisabb fenyegetésekre, amelyek eszünkbe jutnak. (És ez korántsem a teljes lista).
Ezért nagyra értékelem, amikor az uralkodó osztály tagjai képesek egy délelőttöt arra szánni, hogy átgondolt beszélgetést folytassanak a technológia (vagy technológiacsomag) által jelentett, meglehetősen jól meghatározott fenyegetésekről, ahogyan az az Egyesült Államok Képviselőházának Kiberbiztonsági és Infrastruktúra-védelmi Albizottságának június 4-i ülésén is történt. találkozó a „MI biztonsági tájkép” témában.
Felületesen nézve a találkozón folytatott megbeszélés valószínűleg a következőképpen fogalmazható meg: „A mesterséges intelligencia által jelentett legnagyobb fenyegetés külső, a külföldi hackerek formájában rejlik, akik az Egyesült Államok kritikus infrastruktúráját irányító szoftverek sebezhetőségeit próbálják kihasználni, vagy belső, a mesterséges intelligencia hazai használatának szabályozásának és elszámoltathatóságának hiányából fakadó fenyegetés?”
A beszélgetést figyelve azonban kevésbé tűnt „vagy-vagy” kérdésnek, és inkább egy vitathatatlan „Igen és…” válasznak.
Sandra Joyce, a Google munkatársa, Chris Meserole, a Frontier Model Forum ügyvezető igazgatója, valamint Jack Cable, a Corridor Security Inc. vezérigazgatója és társalapítója tanúvallomást tett arról, hogyan alakítja át a mesterséges intelligencia a kiberbiztonsági tájképet, miközben a digitális fegyverek a kapuknál álló kiberbarbárok kezébe kerülnek, akik ezeket a fegyvereket arra használják, hogy sebezhetőségeket találjanak a kritikus infrastruktúránkban és/vagy zsarolóvírus-támadásokat indítsanak.
„Ez a technológia mélyreható hatással volt a kiberbiztonságra mind a védő, mind a támadó számára” – jelentette ki Joyce.
„[A] hackereknek minden eddiginél erősebb eszközeik vannak” – jegyezte meg Cable, konkrétan a Mythos-t és a GPT-5.5-öt említve.
„Ezek a modellek nem csak felhajtások” – figyelmeztetett. „Valóban kezdik versenyre kelni az emberekkel, vagy akár felül is múlni őket a biztonsági feladatokban, és ezt példátlan mértékben teszik.”
Joyce azt sugallta, hogy a „fenyegető szereplőknek” nincs is szükségük valami olyasmire, mint a Mythos, és egy régebbi programmal is képesek lehetnek sok kárt okozni.
A belső fenyegetéseket hangsúlyozva, Matthew Guariglia, az Electronic Frontier Foundation vezető politikai elemzője kijelentette: „A kérdés nem az, hogyan tudjuk megfékezni a mesterséges intelligenciát, hanem az, hogyan tudjuk megfékezni azokat az ügynökségeket, amelyek a mesterséges intelligenciát az amerikai közvéleményre akarják szabadítani?”
Vallomásában Guariglia kiemelte, hogy az amerikai nemzetbiztonsági állam már most is számos olyan eszközt használ, amelyek valószínűsíthető ok nélkül gyűjtenek adatokat emberekről, és amelyek „következtetéseket vonhatnak le egy személy politikai nézeteiről, magánéletéről, vallásáról és földrajzi elhelyezkedéséről, néha pontatlanul, súlyos következményekkel”.
Továbbá Guariglia azt mondta: „A mesterséges intelligencia a múltban is hibázott, a jogi beadványokban szereplő hamis hivatkozásoktól kezdve egészen egy súlyos MI-hibáig, amely megfelelő képzés nélkül küldte a Belbiztonsági Minisztérium újoncait a terepre.”
„Valószínűleg vannak további jelentős példák, amelyekről nem is tudunk az osztályozás miatt, ami megakadályozná az alaposabb elszámolást” – tette hozzá.
Hasonlóképpen Delia Ramirez képviselő (demokrata, Illinois) megjegyezte: „Azt látjuk, ahogy a mesterséges intelligencia által vezérelt megfigyelőrendszerek elterjednek az iskolákban, az állami lakásokban és a kórházakban, anélkül, hogy átlátható lenne a működésük, nincs lehetőségük megtámadni őket, és nincs lehetőségük jogorvoslatra, ha tévednek.”
Egy későbbi eszmecserében, amely egy olyan lehetséges forgatókönyvről szólt, amelyben egy mesterséges intelligencia program veszélyeztetettnek minősíti egy város vízellátását, miközben az valójában rendben van, és ennek következtében korlátozza a városlakók vízhez jutását, Guariglia és Ramirez azt sugallták, hogy a jelenlegi amerikai törvények keretein belül a probléma keletkezésének átláthatósága valószínűleg a rendszert megvalósító város belátására lenne bízva, míg a felelősségre vonás kérdése meglehetősen homályos.
Bár nem egészen annyira szexi, mint T-800-asokkal harcolni az utcákon az életünkért és a megélhetésünkért, a további zsarolóvírus-támadások, a magánéletünk további sérelme, valamint a szükséges átláthatóság és elszámoltathatóság hiánya, amikor a HAL hoppá tesz, és mindenkinél elzárja a vizet, mind elég komolyan hangzanak, még akkor is, ha ezek a dolgok nem igazán indokolják a tömeghisztériát vagy egy filmes franchise-t. Talán még elegendőek is ahhoz, hogy jogosan aggódjunk a jelenlegi helyzet miatt. korszellem hogy mindenbe beépítsék a mesterséges intelligenciát. És talán, csak talán, okot adnak arra, hogy újragondoljuk a döntésünket, hogy a modern életben mindent az internethez kössünk.
Csatlakozz a beszélgetéshez:
Megjelent egy Creative Commons Nevezd meg! 4.0 Nemzetközi licenc
Újranyomtatáshoz kérjük, állítsa vissza a kanonikus linket az eredetire. Brownstone Intézet Cikk és szerző.
