Ebben a fejezetben arról esik szó, hogy mit jelent gondolkozni, vajon képesek-e erre a mesterséges tárgyak, és szeretnénk-e, ha képesek lennének rá.

Ahogyan az 1. fejezetben említettük, a filozófusok sokkal régebb óta vannak jelen, mint a számítógépek, és folyamatosan próbálnak válaszokat találni néhány olyan kérdésre, amely a mesterséges intelligenciához kötődik: Hogyan működik az elme? Képesek-e gépek intelligensen cselekedni; és ha igen, lenne-e elméjük? Milyen etikai következményei lehetnek az intelligens gépeknek? A könyv eddigi huszonöt fejezetében a mesterséges intelligencia saját kérdéseiről volt szó, most egy fejezet erejéig a filozófusok témáival foglalkozunk.

Először néhány elnevezés: a filozófiában gyenge MI-hipotézisnek (weak AI) nevezik azt az állítást, miszerint a gépek valószínűleg képesek intelligensen cselekedni (vagy jobban mondva, képesek úgy cselekedni, mintha intelligensek lennének), míg azt az állítást, hogy a gépek valóban intelligensen cselekszenek, erős MI-hipotézisnek (strong AI) hívják.

A legtöbb MI-kutató elfogadja a gyenge MI-hipotézist, az erőssel pedig nem törődik: amíg a program működik, az nem érdekes, hogy az intelligencia szimulációjának nevezik-e vagy valós intelligenciának. Minden MI-kutatónak foglalkoznia kellene munkája etikai következményeivel.