Isaac Asimov (2 Januari 1920 - 6 April 1992). Sumber image: Quora.
Ide-ide manusia tentang AI sudah lama muncul, dan kini ide-ide ini sudah mulai menjadi realitas dalam kehadiran berbagai bentuk robot yang cerdas, robot-robot android/humanoid ("seperti manusia") yang memiliki AI. Setelah itu, lebih maju lagi, berbagai Super-AI android akan juga diciptakan manusia.
Suatu AI yang memiliki tingkat kecerdasan setaraf dengan tingkat kecerdasan manusia dinamakan juga Artificial General Intelligence (AGI); sedangkan AI yang mempunyai tingkat kecerdasan jauh melampaui tingkat kecerdasan manusia disebut juga Artificial Super-Intelligence (ASI).
Suatu Super-AI memiliki kesadaran dan kehendak bebas sendiri dan juga kemampuan inheren untuk terus-menerus menyempurnakan dan memperbanyak diri mereka sendiri secara eksponensial, besar-besaran, dalam waktu cepat. Inilah kemampuan recursive self- improvement atau recursive self-redesigning yang akan dipunyai oleh setiap Super-AI.
Akan dapat terjadi para Super-AI berbalik memusuhi manusia yang menciptakan mereka, atau bahkan berbalik mau memusnahkan manusia. Dalam situasi dan kondisi ini, kesadaran para saintis sudah makin dipertajam untuk memberi batasan-batasan moral kepada robot-robot android/humanoid yang memiliki AI atau Super-AI supaya mereka juga akhirnya menjadi AMAs, Artificial Moral Agents. AMAs adalah robot-robot yang cerdas karena memiliki hard skills, sekaligus robot yang bermoral dan berbudi, karena mempunyai soft skills.
Sebetulnya, pemikiran untuk membatasi gerak-gerik para AI lewat moralitas atau etika robotik sebagaimana juga terjadi pada manusia, sudah dipikirkan lebih dari delapan puluh tahun lalu. Dikehendaki oleh kita, manusia, sistem-sistem AI manapun dan manusia yang menciptakan mereka memiliki dan menjalankan nilai-nilai kehidupan yang segaris; kondisi ini dinamakan value alignment atau congruent values atau AI Ethics.
Dalam suatu cerita pendek yang terbit Maret 1942 dalam Astounding Science Fiction, yang berjudul “Runaround”, Isaac Asimov pertama kali memperkenalkan dengan eksplisit ke publik Tiga Hukum yang harus diberlakukan kepada robot-robot yang memiliki AI. Lalu kemudian dalam novel Robots and Empire yang terbit 1985, Asimov menambahkan satu hukum lagi yang berada di atas ketiga hukum sebelumnya. Empat Hukum robotik Asimov tersebut adalah:
Hukum Nol: Sebuah robot tidak boleh membahayakan umat manusia, atau, lewat sikap diamnya, membiarkan manusia melakukan hal yang membahayakan.
Hukum Pertama: Sebuah robot tidak boleh melukai seorang manusia, atau, lewat sikap diamnya, menyebabkan seorang manusia ada dalam bahaya.
Hukum Kedua: Sebuah robot harus taat pada perintah-perintah yang diberikan manusia, kecuali perintah-perintah tersebut bertentangan dengan Hukum Pertama.
Hukum Ketiga: Sebuah robot harus melindungi kehidupannya sendiri sejauh perlindungan tersebut tidak bertentangan dengan Hukum Pertama dan Hukum Kedua
--- to be continued ---
References
Isaac Asimov, “Runaround”, Astounding Science Fiction (March 1942), hlm. 94-103; idem, I, Robot (New York: Gnome Press, 1950); idem, Robots and Empire (Garden City, N.Y.: Doubleday, 1985). Bertolak dari Empat Hukum yang dirumuskan Asimov, kini penulis-penulis lain memperluas dan mengembangkan hukum-hukum ini. Tetapi banyak juga yang membantah empat hukum robotik Asimov itu.
Stuart Russell, Sabine Hauert, Russ Altman, Manuela Veloso, "Robotics: Ethics of Artificial Intelligence", Nature 521, 415-418 (2015), https://www.nature.com/articles/521415a.
Kathleen Walch, "How AI Is Redefining Defense, Forbes, 9 Dec 2024, https://www.forbes.com/sites/kathleenwalch/2024/12/09/how-ai-is-redefining-defense/.
Peter W. Singer, "Isaac Asimov's Laws of Robotics Are Wrong", Brooking, May 18, 2009, https://www.brookings.edu/articles/isaac-asimovs-laws-of-robotics-are-wrong/.
Scottie Odom, "How are Isaac Asimov's three rules of robotics relevant now?", Quora, https://www.quora.com/How-are-Isaac-Asimov-s-three-rules-of-robotics-relevant-now. Suatu respons terhadap artikel ini oleh Mat Andersson sangat patut dibaca dan dipahami.
