Isaac Asimov (2 Januari 1920 - 6 April 1992). Sumber image Britannica.
Ide-ide manusia tentang AI sudah lama muncul, dan kini ide-ide ini sudah mulai menjadi realitas dalam kehadiran berbagai bentuk robot yang cerdas, robot-robot android/humanoid ("seperti manusia") yang memiliki AI. Setelah itu, lebih maju lagi, berbagai Super-AI android akan juga diciptakan manusia.
Suatu Super-AI memiliki kesadaran dan kehendak bebas sendiri dan juga kemampuan inheren untuk terus-menerus menyempurnakan dan memperbanyak diri mereka sendiri secara eksponensial, besar-besaran, dalam waktu cepat. Inilah kemampuan recursive self- improvement atau recursive self-redesigning yang akan dipunyai oleh setiap Super-AI.
Akan dapat terjadi para Super-AI berbalik memusuhi manusia yang menciptakan mereka, atau bahkan berbalik mau memusnahkan manusia. Dalam situasi dan kondisi ini, kesadaran para saintis sudah makin dipertajam untuk memberi batasan-batasan moral kepada robot-robot android/humanoid yang memiliki AI atau Super-AI supaya mereka juga akhirnya menjadi AMAs, Artificial Moral Agents. Robot yang cerdas karena memiliki hard skills, sekaligus robot yang bermoral, karena mempunyai soft skills.
Sebetulnya, pemikiran untuk membatasi gerak-gerik para AI lewat moralitas atau etika robotik sebagaimana juga terjadi pada manusia, sudah dipikirkan lebih dari delapan puluh tahun lalu.
Dalam suatu cerita pendek yang terbit Maret 1942 dalam Astounding Science Fiction, yang berjudul “Runaround”, Isaac Asimov pertama kali memperkenalkan dengan eksplisit ke publik Tiga Hukum yang harus diberlakukan kepada robot-robot yang memiliki AI. Lalu kemudian dalam novel Robots and Empire yang terbit 1985, Asimov menambahkan satu hukum lagi yang berada di atas ketiga hukum sebelumnya./1/ Empat Hukum robotik Asimov tersebut adalah:
Hukum Nol: Sebuah robot tidak boleh membahayakan umat manusia, atau, lewat sikap diamnya, membiarkan manusia melakukan hal yang membahayakan.
Hukum Pertama: Sebuah robot tidak boleh melukai seorang manusia, atau, lewat sikap diamnya, menyebabkan seorang manusia ada dalam bahaya.
Hukum Kedua: Sebuah robot harus taat pada perintah-perintah yang diberikan manusia, kecuali perintah-perintah tersebut bertentangan dengan Hukum Pertama.
Hukum Ketiga: Sebuah robot harus melindungi kehidupannya sendiri sejauh perlindungan tersebut tidak bertentangan dengan Hukum Pertama dan Hukum Kedua
Notes
/1/ Isaac Asimov, “Runaround”, Astounding Science Fiction (March 1942), hlm. 94-103; idem, I. Robot (New York: Gnome Press, 1950); idem, Robots and Empire (Garden City, N.Y.: Doubleday, 1985). Bertolak dari Empat Hukum yang dirumuskan Asimov, kini penulis-penulis lain memperluas dan mengembangkan hukum-hukum ini.
