Az MI úgy alakítja át a társadalmat, hogy a háttérben csendesen, de hatékonyan dolgozik, miközben látszólag semmilyen kézzelfogható tevékenységet nem végez.
A Microsoft mesterséges intelligenciával foglalkozó vezérigazgatója úgy véli, hogy nem a tudatára ébredő AI jelent majd kihívást, hanem azok az emberek, akik tévesen tudatos lényként tekintenek egy szoftveres megoldásra.
Bár a befektetői forrásokból élő MI-cégek már hosszú ideje hakniznak az emberi képességekkel rendelkező, sőt azokat meg is haladó mesterséges általános intelligencia (AGI) ígéretével, egyelőre nem sok jelét mutatták annak, hogy tényleg küszöbön állna egy ilyen technológia kifejlesztése. Az emberi viselkedés és nyelvhasználat imitációja valóban látványos, de ugyanilyen feltűnő az intelligencia hiányából fakadó erkölcsi közömbösség és az MI maguk alá temetik a részletek, az időben változó valószínűségek pedig önmagukban csak felszínes és kétséges előrejelzésekhez vezetnek.
Az MI, még a legkritikusabb hangok szerint is, rendkívül hasznos eszközként funkcionálhat a megfelelő feladatok támogatásában. Azonban az AGI (általános mesterséges intelligencia) közelgő megjelenése körüli izgalmakat nehéz komolyan venni, különösen, amikor a legfejlettebb modellek is elakadnak olyan egyszerű kérdéseken, mint például hány 'r' betű található a "raspberry" (málna) szóban. Ezzel szemben a mesterséges intelligenciával működő, emberszerű viselkedésre képzett chatbotok képesek mentális terheket generálni a felhasználók számára, s sokan hajlamosak elhinni, hogy az MI tudatossá válik, holott még egy macska intellektusához is messze van. A diskurzus már nem csupán az MI szerzői jogi védelméről szól, hanem arról is, hogy általában milyen jogok illethetik meg ezt a technológiát.
A tudatosság és a cselekvőképesség vonatkozásában nem létezik egyetértés, és a kérdés, hogy az öntudat mennyire mérhető, továbbra is nyitott. Az Anthropica azonban tavaly október végén bejelentette, hogy egy kutató alkalmazásával foglalkozik, aki a mesterséges intelligencia jólétével kapcsolatos kérdéseket vizsgálja. Ez magában foglalja a mérlegelését annak, hogy mi teszi egy MI-rendszert "erkölcsileg figyelembe veendővé", valamint azt, milyen lépések tehetők az MI-rendszerek érdekeinek védelme érdekében. Ahogyan azt Kyle Fish is hangsúlyozta, érdemes elgondolkodni azon, hogy egy új faj vagy lény milyen erkölcsileg releváns érdekkel bírhat, és vajon érdemes-e ezeket figyelembe venni, hogy a jövőben viszonzásra számíthassunk.
Ezt a helyzetet mi magunk teremtjük meg.
Sokan úgy vélik, hogy nem szerencsés az emberi természet azon hajlamát erősíteni, hogy tárgyakat személyiséggel ruházzunk fel, vagy hogy az emberi viselkedést utánzó algoritmusokat egyenrangú partnerként kezeljük. Az MI-eszközök túlzott antropomorfizálása ellen már számos technológiai vezető kifejezte aggályait. Legutóbb Mustafa Suleyman, a Microsoft mesterséges intelligencia részlegének vezetője hívta fel a figyelmet egy bejegyzésében arra, hogy az MI használata mentális egészségügyi problémákhoz vezethet, és hogy a szuperintelligencia kifejlesztésének útja tele van buktatókkal. Suleyman megjegyzései nem a mesterséges intelligencia tudatossá válásáról szólnak – ami sokak szerint nem is fenyegetés –, hanem inkább arról a téveszméből fakadó veszélyről, hogy az MI már tudatára ébredt.
Suleyman aggodalmát fejezi ki a mesterséges intelligenciával működő chatbotok körüli egyre növekvő tudatosság miatt. Szerinte ez komoly kockázatokat rejt magában, hiszen a felhasználók egyre inkább tudatos entitásokként tekintenek ezekre a rendszerekre, ami elvezethet ahhoz, hogy hamarosan az MI jogaiért kezdjenek el harcolni. Ezt a jelenséget a mesterséges intelligencia fejlődésének veszélyes irányváltásaként értékeli, és sürgeti, hogy azonnali figyelmet kapjon. A "tudatos MI" mítosza nem csupán egyéni vélemény, hanem az iparág befolyásos szereplői is hozzájárulnak ennek megerősítéséhez. Néhány gyártó például virtuális társaként pozicionálja termékeit, amelyek érzelmi kötelékek kialakítására törekednek a felhasználókkal. Suleyman ezzel szemben arra figyelmeztet, hogy szükség van védőintézkedések bevezetésére, hogy megóvjuk az embereket, és biztosítsuk, hogy a mesterséges intelligencia a feladatát végezhesse, miközben óriási értéket teremt az egész világ számára.
Ahogy a bejegyzés címe is sugallja, a mesterséges intelligenciát az embereknek kellene kialakítaniuk, nem pedig azért, hogy az MI önálló, tudatos lényként létezzen. Véleménye szerint az MI-fejlesztő cégeknek sürgősen le kellene állniuk azokkal a marketinggyakorlatokkal, amelyek közvetlenül vagy burkoltan azt sugallják, hogy rendszereik bármilyen szempontból tudatosak. Ezzel párhuzamosan szükség lenne egy közös definícióra és nyilatkozatra a részükről, amely világosan megfogalmazza, hogy mit is értünk mesterséges intelligencia alatt, és mi nem tartozik ebbe a kategóriába (ahogy ő látja, emberi vagy morális értelemben értelmezhető lény biztosan nem). Maga a "mesterséges intelligencia" elnevezés is rejt magában ellentmondásokat, hiszen alapvetően tartalom nélküli marketingfogás, amely azonban jelenleg óriási bevételeket generál.
