David Lodge az irodalomkritikusok egyetemi világáról szóló Small world (Kis világ) (Lodge, 1984) c. novellájában a főhős megdöbbenést okoz, amikor a kiváló, ámde egymással vitatkozó tagokból álló irodalomelméleti bizottságtól megkérdezi: „Mi van, ha igazuk van?” Az elméletalkotók egyike sem gondolt még erre a kérdésre (valószínűleg azért, mert megcáfolhatatlan elméleteken vitatkozni csak öncél lehet). Néha hasonló zavart okozhatunk, ha MI-kutatóktól kérdezzük azt: „Mi van, ha sikerrel jársz?” A mesterséges intelligencia izgalmas dolog, az intelligens számítógépek pedig nyilvánvalóan jobbak, mint buta társaik, miért hát az aggodalom?

Ahogy a 26.3. alfejezetben felvetettük, bizonyos etikai kérdéseket is meg kell fontolni. Az intelligens gépek sokkal többre képesek, de vajon erejüket jóra vagy rosszra fordítják? A mesterséges intelligencia kifejlesztésén fáradozók felelőssége, hogy megbizonyosodjanak munkájuk pozitív hatásáról. Hogy a hatás mennyire lesz széles körű, az a siker mértékétől függ. Már a mesterséges intelligencia mérsékelt sikere is változásokat hozott a számítógép-tudomány tanításában (Stein, 2002) és a szoftverek fejlesztésében. Az MI olyan új alkalmazásokat tett lehetővé, mint például a beszédfelismerő, készletellenőrző vagy megfigyelő rendszerek, robotok és keresőgépek.

A mesterséges intelligencia közepes méretű sikere várhatóan befolyásolná a legkülönbözőbb emberek mindennapi életét. A számítógépesített kommunikációs rendszerek (mint például a mobiltelefonok és az internet) már eddig is mélyreható változásokat okoztak a társadalomban, a mesterséges intelligencia esetében azonban ez még várat magára. Könnyű elképzelni, hogy a tényleg hasznos otthoni és irodai személyi asszisztensek komoly pozitív hatással lennének az emberek életére, habár rövid távon valószínűleg némi gazdasági zavart is okozna. Az ilyen fejlettségi szintű technológiai kapacitás azonban alkalmazható lenne autonóm fegyverek létrehozására is, és ez a legtöbbek szerint nemkívánatos eredmény lenne.

Végül pedig valószínűnek tűnik, hogy a mesterséges intelligencia nagyarányú sikere – az emberihez hasonló vagy annál magasabb szintű intelligencia létrehozása – megváltoztatná az emberiség többségének életét. Átalakulna munkánk és játékunk belső természete, csakúgy, mint az intelligenciáról és a tudatosságról vallott nézeteink, sőt megváltozna az emberi faj jövőbeli sorsa is. Ezen a szinten az MI-rendszerek közvetlen fenyegetést jelenthetnének az emberi autonómiára, szabadságra, sőt akár a fennmaradásunkra is. Mindezek miatt a mesterséges intelligencia kutatásától nem válaszhatók el az etikai következményei.

Mit hoz majd a jövő? A sci-fi írók láthatóan jobban kedvelik a negatív utópiákat, mint a pozitívakat, valószínűleg azért, mert ez ad lehetőséget az érdekesebb cselekményekre. De a mesterséges intelligencia mindeddig más forradalmi technológiákhoz (nyomtatás, csővezetékek, légi utazás, telefónia) hasonlóan viselkedett: pozitív aspektusaik ellensúlyozták negatív hatásaikat.

Összefoglalásul azt mondhatjuk, hogy láttuk, a mesterséges intelligencia mekkora haladást tett meg rövid története alatt, de ma is érvényes Alan Turing Computing Machinery and Intelligence c. esszéjének zárómondata: