Írolvasgondol

Göbölyös N. László blogja

Az arcfelismerés tömeges ellenőrzést tesz lehetővé, de ennél veszélyesebb az emberi ostobaság

192559207-50538259-9c4b-4a65-b66f-f0ebd28e1736.jpg

A Microsoft nem ad el mesterséges intelligenciával összefüggő technológiát tekintélyelvű kormányoknak és az Amazonon belül is sokan vannak, akik követnék a példáját. A La Repubblica két szakértő véleményét kérte.

Különböző a koruk, a szaktudásuk, és az intézmény, ahol dolgoznak. A 72 éves Tomaso Poggio komoly szaktekintélynek számít a szektorban. Jelenlegi ő a vezető a bostoni MIT Brains, Minds and Machines részlegnek. A 49 esztendős Giorgio Metta az Iit (Istituto Italiano di tecnologia) igazgatója.

-Mi kelt Önökben félelmet a mesterséges intelligencia iránt?

P: Túl sok a felhajtás körülötte. Nem lesznek rövid időn belül az emberi agyhoz hasonló digitális rendszerek. Még évtizedekre és sok felfedezésre van szükség ehhez, Elon Musk, vagy Stephen Hawking, eltúlozták a veszélyt. De az igaz, hogy vannak témák, amelyekkel most kell szembenézni. Például a személyiségi jogokkal és azzal a ténnyel, hogy társadalmi keretekben használva ellenőrző rendszerré válhat és a diktátorok életét könnyíti meg. Nem véletlen, hogy a legjobb arcfelismerő rendszerek kínaiak, vagy hogy Aszad Szíriában megtisztította a terepet az ellenségtől az orosz ellenőrző technológia felhasználásával.

M: Jelenleg az AI-k jól szerepeknek ismétlődő folyamatokban, kevésbé változó környezetben, de messze vannak attól, ahogy a sci-fikben bemutatják őket. Én jobban tartok az emberi ostobaságtól, és nyugtalanít, hogy ez a forradalom – AI, automatizálás, robot – esetleg nem terjed el, hogy előnyei kevés ország, kevés társaság kezében maradnak, hogy ezek a technológiák a termelésre, az egészségügyre alkalmazva a társadalmi egyenlőtlenséget növelhetik, ahelyett, hogy megszüntetnék.

-Mi a véleményük az Európai Uniós elvekről e téren?

P: Nagyszerű dolog és azt gondolom, hogy a Web nagyjai is egyetértenek azzal, hogy a szabályokat a kormányoknak és a nemzetközi szerveknek kell megszabniuk, mivel a probléma nem a szabályban van, hanem ugyanazt kell érvényesíteni mindenhol, mindenkire. Egyik AI sem intelligens önmagában, még a Deep Mind Alpha Zorója sem, amely magától tanul meg sakkozni. Ha játszik és az épület kigyullad, ott marad ahelyett, hogy mentse magát. Ezzel csak illusztálni akarom, hogy az AI-knak fogalmuk sincs arról, hogy mi történik körülöttük. Van azonban egy abszurd, ironikus aspektus is: nem tudjuk pontosan, mi történik néhány, a „deep learninggel” összefüggő egyes folyamatokban.

M: Az EU szabályai kitűnő kiindulást jelentenek. Érintik a lényeges pontokat, így azt, hogy a technológiák akarva vagy akaratlanul a diszkrimináció kockázatát rejtik magukban. Gondolok például egy bizonyos típusú orvosi analízisre, amely gyakrabban hibázik  bizonyos típusú embereknél. Érinti a szabály az algoritmusok átlátszóságának kérdését is. Tudnunk kell, mi történik a belsejükben.

-Úgy használjuk a fejlett algoritmusokat, hogy nem tudjuk, hogyan cselekszenek?

P: Matematikailag nem tudjuk, miért működik ilyen jól. Én azt gondolom, hogy elméletileg értem, de biztos vagyok abban, hogy két éven belül sokkal többet tudunk. A tudományban ez nem annyira meglepő. Azután, hogy Alessandro Volta felfedezte az elektromosságot, 60 év kellett, míg eljutottunk egy igazi matematikai elmélethez, de ez nem akadályozta, hogy közben legyenek ezzel összefüggő felfedezések, találmányok. Ebben az esetben azonban rendszerekről van szó, amelyek többek között autókat tudnak vezetni, és jobb tudni hogyan. Az AI-k fejlesztésében fontos a figyelmet a White Box-ra koncentrálni (egy teszt, amely felfedezi a hibákat és megtalálja a helyüket a rendszerben). Nem feledjük azonban, hogy hány területe van az életnek, amelyekről keveset tudunk. És a dolgok egyre bonyolultabbak lesznek.

M:Nem minden esetben. Néha önállóan cselekszenek és fogalmunk sincs, miért éppen úgy, ahogy. Vannak rendszerek, amelyek tanulnak, és maguk választják ki, hogyan oldjanak meg bizonyos problémákat. A Google által kreált AlphaGo tud néhány megmagyarázhatatlan lépést, amellyel legyőzte a Go világbajnokát. Amíg a játékoknál maradunk, nem látok semmi problémát. Problémát jelenthet viszont egy kórházban egy kibernetikai biztonsági rendszer. Az a baj, hogy nem tudjuk mindig megérteni egyes lépések okait. Egyébként nem lehet az abszolút érthetőséget feltételként szabni az algoritmusok létrehozásánál, mert ez blokkolná a kutatást.

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben és az adatvédelmi tájékoztatóban.

Nincsenek hozzászólások.

Írolvasgondol

Érdekességek a nagyvilágból, élmények és vélemények közvetlen és tágabb környezetemből, szépírói, műfordítói munkáim

Címkék

18+ (12) 19.század (4) 1968 (16) 20.század (5) 60-as évek (5) Afrika (12) afro-amerikaiak (3) agy (22) agykutatás (3) Albert Einstein (4) Alfred Hitchcock (5) állatvilág (56) álmatlanság (3) álom (13) alvás (9) Amazonas (4) Amerika (4) anatómia (3) Anglia (30) Antarktisz (5) antiszemitizmus (4) antropológia (10) árverés (7) ASL (3) Auschwitz (3) Ausztrália (11) Ausztria (10) autó (6) autóipar (4) Ázsia (4) balkezesség (5) Barcelona (3) Beatles (16) béke (5) Belgium (8) best-seller (3) beszéd (6) betegség (6) Bill Gates (5) biológia (60) biztonság (6) blog (16) blues (3) Bob Dylan (3) Boileau-Narcejac (12) boksz (3) boldogság (8) botanika (3) Brazília (7) Brexit (5) bűnözés (6) bűnügy (44) cetfélék (3) Charlie Chaplin (3) Chile (4) ChristianK (19) CIA (4) Claude Monet (3) család (16) Csendes-óceán (6) csillagászat (36) csokoládé (4) Dánia (8) David Bowie (3) Déli-sark (3) demokrácia (6) depresszió (9) digitális (5) digitalizáció (3) diktatúra (5) dinoszauruszok (4) diszkrimináció (5) divat (30) Djabe (11) DNS (10) dohányzás (3) dokumentum (3) dokumentumfilm (8) Donald Trump (8) drog (5) Egészég (6) Egészség (16) egészség (92) egyház (12) Egyiptom (22) elektronika (5) élelmezés (6) élelmiszer (4) Élet (3) élet (42) életkor (3) életminőség (3) életmód (154) Életmód (19) életrajz (5) ellenkultúra (3) elnökválasztás (4) élővilág (14) ember (8) emberiség (3) embrió (4) emlékezet (4) ENSZ (4) építészet (16) erdő (5) erkölcs (6) erőszak (5) erotika (6) érzelem (5) érzelmek (4) Északi-sark (3) Etiópia (3) étrend (5) EU (3) Európa (23) évforduló (55) evolúció (5) Facebook (8) fák (11) farkas (3) fasizmus (8) Federico Fellini (4) fegyver (3) fegyverek (3) felfedezés (3) felmelegedés (4) felmérés (6) fenntarthatóság (12) fenntartható fejlődés (3) fény (5) Ferenc pápa (5) férfi (4) festészet (12) fiatalok (7) film (36) Film (8) filoszemitizmus (8) filozófia (14) Finnország (11) Firenze (3) fizika (9) Föld (23) földönkívüliek (6) földrajz (7) Földrajz (4) földrengés (5) földtörténet (4) forradalom (3) Fotó (8) fotó (12) fotográfia (4) Fotográfia (3) Franciaország (187) Frank Zappa (4) függőség (5) Fukusima (3) futball (9) gasztró (3) gasztronómia (34) gazdaság (18) genetika (13) geológia (32) George Orwell (4) Gina Lollobrigida (3) globális felmelegedés (12) globalizáció (3) Göbölyösné Németh Mária (12) Göbölyös N. László (81) gondolkodom (48) Gondolkodom (7) Google (6) Görögország (6) gravitáció (3) gyász (5) gyerekek (3) gyermek (3) gyermekek (15) gyilkosság (13) gyógyítás (8) háború (20) hacker (3) hagyomány (8) haj (3) hajózás (6) halál (15) halálozás (8) hang (6) hatalom (3) házasság (5) hidegháború (5) Himalája (4) hippik (3) híresség (10) hit (5) Hitler (5) Hold (13) Hollandia (31) Hollywood (8) holokauszt (17) Holokauszt (5) home office (3) Homo Sapiens (3) horror (14) humor (3) hurrikánok (3) hús (4) I.világháború (9) idegenforgalom (5) idő (4) időskor (3) II.világháború (25) ikrek (3) impresszionizmus (3) India (13) Indonézia (4) informatika (11) intelligencia (8) internet (26) ipar (12) Irak (4) Irodalom (15) irodalom (150) iskola (6) iszlám (7) iszlám állam (3) Itália (5) Izland (5) Izrael (28) Japán (28) járvány (6) jazz (7) jégkorszak (3) Jeruzsálem (3) Jimi Hendrix (4) jog (8) John F. Kennedy (5) John Lennon (6) jövő (10) Kanada (23) Karácsony (3) karantén (3) katasztrófa (15) katolicizmus (3) kávé (3) képzőművészet (35) kereskedelem (3) kereszténység (4) kiállítás (7) Kína (19) királyság (3) klíma (15) klímaváltozás (28) klimaváltozás (3) kollázsregény (13) költészet (13) Kolumbia (5) kommunikáció (6) kommunizmus (5) könyezetvédelem (3) könyv (14) környezet (4) környezetvédelem (163) koronavírus (6) középkor (9) közlekedés (23) közösség (7) közösségi háló (6) közösségi média (10) krimi (13) kriminovella (13) krokodil (3) Kuba (3) kultúra (15) kulturtörténet (11) kultúrtörténet (56) Kultúrtörténet (3) kutatás (16) kutya (12) látás (3) Led Zeppelin (4) légszennyezés (6) lélektan (9) Lengyelország (9) Leonardo Da Vinci (3) Leonard Cohen (6) levegő (4) levelezés (3) (3) London (7) macska (4) Madagaszkár (3) madarak (6) maffia (13) mágneses tér (3) Magyarország (100) Marcello Mastroianni (4) marihuána (4) Marilyn Monroe (3) Marokkó (3) Mars (7) matematika (6) média (66) meditáció (3) medve (3) megújuló energiák (5) memoár (3) menekültek (3) mese (7) mesterséges intelligencia (33) meteorológia (8) Mexikó (14) mezőgazdaság (7) Michelangelo (4) migráció (3) migránsok (3) Milánó (4) mítosz (5) mobiltelefon (3) molekulák (3) mozgás (5) mozi (184) műanyag (6) műemlék (5) Muhammad Ali (6) múlt (5) munka (20) munkahely (7) művészet (22) múzeum (3) nacionalizmus (3) nácizmus (27) Nagy-Britannia (135) Nap (6) Napóleon (6) NASA (15) neandervölgyi (7) Neil Young (6) nemek (3) Németország (43) népesség (4) nevelés (23) New York (10) (8) Nobel-díj (5) nők (24) Norvégia (12) növények (3) nukleáris (6) nyelv (8) óceánok (9) ókor (35) ökorendszer (3) okostelefon (5) oktatás (12) Olaszország (225) olvasás (5) on-line (3) Orhan Pamuk (3) Oroszország (27) orvostudomány (34) Oscar Wilde (3) őskor (14) őslénytan (15) összeesküvés-elmélet (3) őstörténet (11) Pablo Picasso (3) Párizs (5) párkapcsolat (17) Parkinson-kór (3) Peru (7) Pier Paolo Pasolini (3) pihenés (3) Pink Floyd (4) piramisok (5) pók (4) polgárjogi mozgalom (3) politika (42) Pompei (5) pop (3) Portugália (5) pszichiátria (5) pszichológia (74) punk (3) rabszolgaság (3) rasszizmus (5) reciklálás (5) régészet (99) rejtély (3) reklám (4) relaxáció (4) remake (3) reneszánsz (11) repülés (5) robot (8) Rock (38) rock (68) Rocky (3) Rolling Stones (4) Róma (12) Római Birodalom (16) Románia (3) rövidlátás (3) sajtó (3) sakk (4) sci-fi (9) Shakespeare (7) Skócia (6) soul (3) Spanyolország (33) spirituális (12) sport (26) Stanley Kubrick (5) Steven Spielberg (3) Steve Hackett (3) Steve Jobs (3) stressz (7) Svájc (12) Svédország (24) Sylvester Stallone (3) szabadidő (3) Szardínia (3) Szaúd-Arábia (3) szegénység (3) szelfi (4) szem (5) személyiség (4) szennyezés (4) szerelem (14) szex (16) szexualitás (3) Szibéria (3) Szicília (4) Sziliciumvölgy (3) színház (21) szocio (52) szorongás (3) Szovjetunió (8) Sztálin (3) sztárok (4) sztárvilág (3) születésnap (4) szülők (3) szürreális (8) szürrealizmus (3) találmány (5) tánc (3) tanulás (4) táplálkozás (13) társadalom (185) Társadalom (31) technika (62) technológia (23) Tejút (3) temetkezés (3) tenger (3) tengerek (5) természet (52) természetvédelem (7) terrorizmus (21) tetoválás (3) Titanic (5) titkos szolgálat (3) tizenévesek (3) Törökország (6) történelem (386) tudomány (331) turizmus (10) tv (4) UFO (5) Új-Zéland (10) Ukrajna (3) Umberto Eco (3) UNESCO (3) univerzum (9) urbanizáció (19) űrkutatás (34) USA (455) utazás (11) üzlet (6) válás (3) vallás (26) Van Gogh (4) várandósság (3) Vatikán (10) vélemény (5) Velence (8) vendéglátás (7) videójáték (3) Vietnam (11) világegyetem (3) világörökség (4) világpoézis (8) víz (9) Vörös Brigádok (4) vulkán (5) vulkánok (4) Wales (3) Woody Allen (4) world music (3) Yellowstone (3) Zene (146) zene (31) zsidóság (21) Címkefelhő

Friss topikok

Facebook oldaldoboz

süti beállítások módosítása