A Google egyik kutató csoportja megpróbálja megtanítani a gépeket arra, hogyan lehet becsapni az emberi agyat azért, hogy megértsük: hogyan sikerült az utóbbinak észrevenni, hogy mi a valóságos és mi nem az.

Csak példa, de megtörténhet: egy önműködő autó összeütközik egy kamionnal. A balesetet az AI okozta, mert összetévesztette egy felhővel. Az emberektől eltérően a gépek nem látják, hanem feldolgozzák a képeket, így egyszerű lenne módosítani ezeket, vagy beiktatni egy kódot az AI-k megtévesztésére.

Ezért a kutatók megpróbálják megtanítani a gépeket arra, hogyan lehet megtéveszteni az emberi felismerést, hogy hibáikból tanuljanak és főleg, hogy felismerjék a valóságot.

„Az alapelképzelés az, hogy ami nem téveszti meg az embert, az ne téveszthesse meg a gépet sem. Ha megértjük, hogy az emberi agynak hogyan sikerül észrevennie, ha egy kép megtévesztő, ezt elérhetjük a leolvasó gép algoritmusán keresztül is” –magyarázzák a kutatók. A tesztjeik között van egy kép egy macskáról, amelyet felnagyítottak, módosítottak, a kutyához hasonlóvá tettek. Ha ez ember téved, a gép majd elemzi.

A képek feldolgozásának rendszerét könnyen fel lehet használni tévedés elkövetésére. A múlt évben a MIT kutatói becsapták a Google egy mesterséges intelligenciáját egyszerűen úgy, hogy betettek egy kódot a képek közé. Elhitették vele, hogy egy puskát vizsgál, holott egy teknősbéka volt. Ezt a hibát ember nem követné el.