Sempadan Autonomi Apabila Kod Pengaturcaraan Menentukan Nasib Manusia
Sebuah sistem algoritma penapisan pemohon kerja menolak resume calon wanita secara automatik kerana model matematiknya dilatih menggunakan data sejarah syarikat selama sedekad yang didominasi oleh pekerja lelaki. Di sebuah bandar raya maju, perisian pengecaman wajah pihak berkuasa tersilap mengenal pasti seorang lelaki tidak bersalah sebagai suspek jenayah berat, menyebabkan individu berkenaan ditahan secara salah di hadapan keluarganya. Di lebuh raya, kenderaan pandu sendiri gagal mengesan halangan pejalan kaki dalam pencahayaan malap, lalu mencetuskan kemalangan maut.
Rentetan insiden seperti ini bukan lagi imaginasi cereka sains. Peristiwa tersebut merupakan realiti operasi kecerdasan buatan (artificial intelligence atau AI) yang kini mengambil alih fungsi pertimbangan dalam pelbagai sektor kritikal. Antara yang terlibat seperti sektor kewangan, pengesanan keselamatan, kehakiman, penjagaan kesihatan, serta pasaran buruh.
Kemajuan pesat teknologi pembelajaran mesin memindahkan beban membuat keputusan daripada tangan manusia kepada jentera pengkomputeran.
Persoalan paling meruncing yang timbul daripada anjakan ini bertumpu pada isu akauntabiliti moral dan perundangan. Apabila algoritma membuat keputusan yang salah dan mencetuskan kemudaratan fizikal atau kewangan, siapakah entiti sebenar yang wajib memikul pertanggungjawaban?
Keengganan industri teknologi untuk memberikan jawapan tuntas mendedahkan kelonggaran etika yang parah dalam pengurusan sistem berautonomi moden.
Masalah Kotak Hitam dan Jurang Ketelusan dalam Pembelajaran Mendalam
Cabaran asas dalam menentukan liabiliti etika AI berpunca daripada fenomena yang diistilahkan oleh pakar sains komputer sebagai masalah kotak hitam (black box problem). Istilah ini menggambarkan ketidakupayaan manusia untuk menjejak dan memahami proses dalaman cara sesebuah model kecerdasan buatan merumuskan sesuatu keputusan akhir.
Kelegapan Algoritma dan Keputusan Tanpa Rasional yang Boleh Ditafsirkan
Model pembelajaran mendalam (deep learning) yang memacu inovasi AI generasi kini beroperasi menerusi jaringan neural tiruan yang terdiri daripada berbilion-bilion parameter dan lapisan pemprosesan matematik. Walaupun jurutera perisian boleh menetapkan seni bina asas dan membekalkan data input, cara model tersebut menimbang pemboleh ubah secara dalaman bagi menghasilkan output adalah di luar capaian interpretasi logik manusia biasa.
Kecenderungan sistem pembelajaran mendalam melangkaui jangkaan pemikiran manusia bukanlah perkara asing, memandangkan dalam bidang sains angkasa lepas sekalipun, AI tidak sekadar jumpa galaksi baru malah mula meramal struktur kosmik luar jangkaan yang mencabar rumus fizik konvensional.
Kelegapan ini melahirkan krisis pertanggungjawaban yang belum pernah wujud sebelum ini. Sebuah bank komersial boleh menolak permohonan pinjaman perumahan seorang pemohon berpendapatan sederhana dengan alasan sistem skor kredit automatik memberikan penilaian negatif.
Namun begitu, apabila ditanya punca sebenar penolakan tersebut, pihak pengurusan bank mahupun pembangun perisian sering kali gagal memberikan justifikasi terperinci. Keadaan ini memperlihatkan bagaimana sistem pintar boleh menafikan hak ekonomi seseorang tanpa menyediakan sebarang hujah yang boleh dipertikaikan secara rasional.
Hak Untuk Mendapat Penjelasan dan Keruntuhan Keadilan Prosedural
Prinsip keadilan asasi menuntut bahawa setiap individu yang dikenakan tindakan atau keputusan yang merugikan mempunyai hak mutlak untuk mengetahui alasan di sebalik keputusan tersebut (right to explanation). Ketiadaan ketelusan dalam sistem berasaskan algoritma merobek prinsip keadilan prosedural ini.
Sekiranya pesakit dinafikan rawatan kecemasan atau calon pekerja disingkirkan daripada senarai temu duga oleh perisian pintar tanpa penjelasan yang telus, mangsa kehilangan keupayaan untuk membela diri.
Keadaan menjadi lebih parah apabila pengurusan institusi berlindung di sebalik kekebalan perisian komputer dengan menyatakan bahawa keputusan tersebut ialah ketetapan sistem yang tidak boleh dicabar.
Anatomi Bias Algoritma Sebagai Cermin Kepincangan dan Prasangka Sejarah
Tanggapan popular bahawa kecerdasan buatan merupakan entiti neutral yang bebas daripada emosi dan prasangka manusia merupakan satu salah faham yang berbahaya. AI tidak beroperasi dalam vakum nilai yang suci. Sistem ini menyerap, mengukuhkan, dan mengulang corak ketidakadilan yang sedia terpahat dalam masyarakat.
Pencemaran Data Latihan dan Pengulangan Diskriminasi
Sebuah model pembelajaran mesin hanya berupaya menjadi secekap kualiti data yang digunakan untuk melatihnya (garbage in, garbage out). Apabila data latihan yang dibekalkan sarat dengan ketidakseimbangan sejarah, sistem berkenaan akan menganggap kepincangan masa lalu sebagai norma yang wajar diteruskan pada masa hadapan.
Sebagai contoh, sekiranya data arkib sabitan jenayah lampau menunjukkan kadar penahanan yang tinggi terhadap sesuatu kelompok etnik akibat amalan profil perkauman oleh penguat kuasa terdahulu, perisian ramalan jenayah AI akan mengklasifikasikan kawasan penempatan etnik berkenaan sebagai zon berisiko tinggi.
Sistem tersebut tidak bertindak secara rasional yang objektif, sebaliknya mengekodkan prejudis manusia menjadi formula matematik yang kelihatan saintifik dan sukar dicabar.
Impak Asimetri Terhadap Golongan Minoriti dan Rentan
Beban kerosakan akibat kecacatan algoritma tidak tersebar secara sama rata dalam kalangan masyarakat. Golongan minoriti, pekerja marhaen, dan kumpulan yang kurang bernasib baik secara konsisten menanggung impak paling buruk daripada kesilapan teknologi.
Kajian antarabangsa membuktikan bahawa perisian pengecaman wajah komersial mempunyai kadar ralat yang ketara lebih tinggi apabila mengimbas wajah wanita dan individu berkulit gelap berbanding dengan lelaki berkulit cerah.
Dalam sektor pekerjaan gig, algoritma pengagihan tugas sering kali meminggirkan pekerja yang mengambil cuti sakit atau berdepan masalah peranti, tanpa mengambil kira realiti kesempitan hidup mereka di lapangan. Ketidakadilan berstruktur ini membuktikan bahawa teknologi pintar boleh bertukar menjadi instrumen penindasan senyap sekiranya dibiarkan beroperasi tanpa kawalan etika.
Rantaian Liabiliti dan Persoalan Siapa Sebenarnya Pemilik Tanggungjawab
Apabila kerosakan nyata berlaku akibat tindakan kecerdasan buatan, persoalan perundangan utama tertumpu pada pengagihan liabiliti merentasi rantaian pembekalan dan operasi teknologi.
Dilema Pembangun dan Gergasi Teknologi
Syarikat teknologi gergasi dan jurutera perisian memegang peranan utama dalam mereka bentuk algoritma, memilih set data latihan, serta menguji ketahanan sistem sebelum dilancarkan ke pasaran terbuka. Namun dalam amalan industri semasa, perlumbaan merebut bahagian pasaran sering kali mengatasi pertimbangan keselamatan.
Pihak pembangun sering berhujah bahawa sifat pembelajaran mesin yang dinamik dan sentiasa berevolusi menjadikan tingkah laku sistem sukar diramal sepenuhnya selepas fasa pelancaran.
Mereka cenderung meletakkan klausa penafian liabiliti (disclaimer) yang panjang dalam perjanjian lesen pengguna, sekali gus mengalihkan beban risiko kepada pihak pembeli perisian. Sikap lepas tangan ini membolehkan syarikat mengaut keuntungan lumayan daripada penjualan inovasi tanpa perlu menanggung padah apabila perisian mereka mendatangkan kemudaratan.
Tanggungjawab Organisasi Pelaksana dan Pengguna Korporat
Organisasi yang memilih untuk menggunakan teknologi AI dalam urusan operasi harian, termasuk institusi perbankan, hospital, dan agensi penguatkuasaan, tidak boleh melepaskan tanggungjawab undang-undang begitu sahaja. Keputusan menggantikan pertimbangan manusia dengan sistem automatik merupakan keputusan pengurusan yang bermotifkan pengurangan kos operasi dan peningkatan kecekapan.
Sekiranya pihak pengurusan hospital memilih untuk bergantung pada algoritma diagnostik yang belum diuji secara klinikal pada skala besar semata-mata untuk menjimatkan masa doktor, pihak hospital wajar menanggung liabiliti sekiranya pesakit mengalami salah rawatan.
Ketidakupayaan teknikal pengurusan korporat untuk memahami selok-belok kod pengaturcaraan tidak boleh dijadikan alasan sah untuk melepaskan diri daripada kewajipan melindungi pelanggan.
Kelompangan Kerangka Perundangan Konvensional
Sistem perundangan moden, termasuk doktrin undang-undang tort dan undang-undang kecuaian (negligence), diasaskan atas premis bahawa sesuatu kerosakan berpunca daripada kecuaian manusia yang boleh dikenal pasti niat (mens rea) dan perbuatannya (actus reus).
Kerangka tradisional ini berdepan jalan buntu apabila berhadapan dengan ejen autonomi. Bolehkah kod perisian disaman di mahkamah? Siapakah yang wajar didakwa di kandang tertuduh apabila kereta pandu sendiri melanggar lampu isyarat dan meragut nyawa? Adakah jurutera kod, pengeluar kereta, syarikat penderia kamera, atau pemilik kenderaan yang duduk di kerusi pemandu?
Kekaburan undang-undang ini mewujudkan zon kelabu yang sering kali dieksploitasi oleh pihak berkuasa korporat untuk mengelakkan diri daripada membayar pampasan ganti rugi kepada mangsa.
Taruhan Nyawa Melalui Aplikasi AI dalam Sektor Berkepentingan Tinggi
Risiko etika kecerdasan buatan mencapai tahap paling membimbangkan apabila teknologi ini disepadukan ke dalam sektor yang melibatkan maruah, kebebasan, dan nyawa manusia secara langsung.
Diagnosis Klinikal dan Dilema Malpraktik Perubatan
Penggunaan AI dalam bidang radiologi, onkologi, dan pembedahan robotik menjanjikan revolusi ketepatan rawatan perubatan. Walau bagaimanapun, kegagalan sistem mengesan tumor malignan atau kesilapan dos ubat preskripsi automatik membawa risiko kematian serta-merta.
Sekiranya seorang doktor pakar menerima cadangan rawatan daripada sistem AI yang kemudiannya terbukti memudaratkan pesakit, timbul pertelingkahan tentang sempadan malpraktik.
Adakah doktor bersalah kerana mempercayai teknologi yang diiktiraf pihak hospital, atau doktor dianggap cuai kerana gagal menyemak semula cadangan algoritma tersebut? Ketidaktentuan ini meletakkan pengamal perubatan dalam dilema pertimbangan profesional yang berat.
Algoritma Kehakiman dan Pemprofilan Ramalan Jenayah
Dalam sistem perundangan jenayah, penggunaan perisian penilaian risiko banduan untuk menentukan kelayakan ikat jamin atau tempoh parol mencabar prinsip asas hak asasi manusia. Penilaian berasaskan kebarangkalian statistik menafikan maruah individu untuk dinilai berdasarkan perlakuan peribadi mereka sendiri.
Tindakan menghukum seseorang berasaskan ramalan algoritma tentang perkara yang mungkin dilakukannya pada masa hadapan adalah pencabulan terhadap doktrin anggapan tidak bersalah (presumption of innocence).
Kecenderungan ini melahirkan sistem keadilan digital yang dingin, apabila budi bicara kehakiman yang sarat dengan empati kemanusiaan digantikan dengan matriks pengiraan risiko yang tidak mengenal erti belas kasihan.
Sistem Senjata Autonomi Sebagai Garis Merah Moral Peperangan Moden
Kemuncak krisis etika teknologi ialah pembangunan sistem senjata autonomi maut (lethal autonomous weapons systems atau LAWS), yang sering dirujuk sebagai robot pembunuh. Sistem dron dan peluru berpandu pintar ini berkeupayaan memilih sasaran dan melepaskan tembakan maut tanpa memerlukan pengesahan manusia di bilik kawalan (human-out-of-the-loop).
Mewakilkan keputusan mencabut nyawa manusia kepada algoritma komputer adalah pelanggaran moral paling asas terhadap undang-undang kemanusiaan antarabangsa.
Mesin tidak memiliki kesedaran etika untuk membezakan kombatan dengan orang awam dalam situasi peperangan bandar yang keliru. Sekiranya pembunuhan orang awam berlaku, ketiadaan rantaian arahan manusia yang jelas membuka ruang kepada jenayah perang yang terlepas daripada sebarang pendakwaan undang-undang antarabangsa.
Realiti Tempatan Mengenai Garis Panduan Tadbir Urus AI di Malaysia dan Cabaran Akta Perlindungan Data
Dalam konteks domestik, Malaysia sedang giat mempercepat agenda transformasi digital melalui Pelan Hala Tuju Kecerdasan Buatan Negara 2021-2025. Perkembangan ini menuntut kesiapsiagaan kawal selia yang kukuh bagi memastikan penggunaan teknologi tidak mengorbankan hak asasi rakyat terbanyak.
Kementerian Sains, Teknologi dan Inovasi (MOSTI) telah melancarkan Garis Panduan Etika dan Tadbir Urus AI Kebangsaan (AIGE) sebagai panduan asas bagi pemegang taruh industri. Garis panduan ini menggariskan tujuh prinsip teras, merangkumi ketelusan, keadilan, privasi, dan kebertanggungjawaban.
Walau bagaimanapun, status garis panduan ini yang kekal sebagai dokumen sukarela tanpa kuasa statutori mengurangkan taring penguatkuasaannya terhadap syarikat gergasi yang beroperasi di Malaysia.
Di peringkat perundangan, Akta Perlindungan Data Peribadi 2010 (PDPA) yang telah melalui proses pindaan pada tahun 2024 masih berdepan cabaran besar dalam menangani pemprofilan automatik (automated decision-making). Peruntukan undang-undang sedia ada belum menyediakan mekanisme komprehensif yang mewajibkan syarikat mendedahkan logik pemprosesan algoritma kepada pengguna tempatan.
Apabila data peribadi rakyat digunakan secara meluas untuk melatih model pintar komersial, timbul persoalan sama ada kebebasan yang kita sangka ada dan siapa sebenarnya mengawal pilihan kita masih kekal utuh di bawah cengkaman ekonomi pengawasan digital.
Ejen AI Berautonomi dan Ramalan Risiko Lima Tahun Mendatang
Menjelang tahun 2030, landskap teknologi bakal beralih daripada model AI generatif pasif kepada ekosistem ejen AI berautonomi sepenuhnya (Agentic AI). Ejen pintar ini tidak lagi sekadar membalas pertanyaan teks, sebaliknya berupaya merancang tindakan, mengurus akaun kewangan, menandatangani kontrak digital, dan berinteraksi sesama sendiri merentasi rangkaian internet tanpa sebarang campur tangan manusia.
Peralihan ini bakal mencetuskan fenomena tindakan kaskad (algorithmic cascading failures), apabila kesilapan kecil dalam satu sistem mencetuskan tindak balas berantai yang melumpuhkan infrastruktur kritikal seperti grid bekalan elektrik atau pasaran saham dalam masa beberapa saat.
Apabila kerosakan berlaku pada kelajuan mikrosaat tanpa penglibatan manusia, kaedah audit konvensional menjadi tidak relevan lagi.
Perkembangan ini memperlihatkan krisis kepimpinan teknologi yang kritikal. Masyarakat manusia semakin menyerahkan kawalan tamadun kepada sistem yang keputusannya tidak difahami, kelakuannya tidak dapat diramal, dan kerosakannya tidak boleh dipertanggungjawabkan kepada sesiapa.
Fenomena penyerahan kuasa ini berkait rapat dengan bagaimana algoritma media sosial dan budaya viral mencorak fikiran masyarakat sehingga melahirkan penerimaan pasif terhadap dominasi teknologi dalam kehidupan harian.
Soalan Lazim (FAQ) Mengenai Tanggungjawab dan Etika AI
Adakah sistem kecerdasan buatan boleh dipertanggungjawabkan secara sah di mahkamah?
Di bawah undang-undang semasa, sistem AI ialah perisian dan harta intelek, bukannya entiti undang-undang (legal person) yang memiliki hak atau liabiliti statutori. Liabiliti undang-undang kekal berada di tangan manusia dan entiti korporat yang membangunkan, membiayai, atau mengendalikan teknologi berkenaan.
Mengapakah penyelesaian audit kod tidak mampu menghapuskan masalah kotak hitam sepenuhnya?
Model pembelajaran mendalam moden mengandungi parameter yang terlalu rumit dan saling berkait secara bukan linear. Walaupun baris kod pengaturcaraan boleh dibaca oleh pakar forensik digital, corak pemberatan statistik yang terhasil selepas proses latihan berskala besar tidak dapat diterjemahkan kepada logik bahasa manusia yang ringkas.
Apakah pendekatan terbaik bagi memastikan penggunaan AI kekal selamat dalam urusan perniagaan?
Organisasi wajar menguatkuasakan dasar manusia dalam gelung kawalan (human-in-the-loop), apabila sebarang keputusan kritikal yang memberikan impak besar pada hak pelanggan mesti disemak dan diluluskan oleh pegawai manusia bertauliah, di samping menjalankan audit ketelusan data secara berkala.
Penutup dan Penolakan Ilusi Keberlepasan di Sebalik Tabir Algoritma
Kecerdasan buatan hanyalah cermin yang memantulkan kembali struktur nilai, cita-cita, dan kecacatan moral masyarakat manusia yang membinanya. Menyerahkan pertimbangan moral kepada mesin dan kemudiannya menyalahkan algoritma apabila kesilapan berlaku merupakan satu bentuk pelarian tanggungjawab intelektual yang pengecut.
Di sebalik setiap baris kod komputer yang beroperasi, sentiasa wujud pengaturcara yang memilih formula, pengurus korporat yang meluluskan pelaburan, serta pemimpin kerajaan yang menetapkan dasar undang-undang. Sistem pintar tidak boleh dibiarkan menjadi perisai bagi golongan berkuasa untuk mengelakkan diri daripada memikul liabiliti sosial terhadap kemudaratan yang menimpa rakyat marhaen.
Masa depan peradaban kita tidak ditentukan oleh kehebatan daya pemprosesan mikrocip semata-mata, sebaliknya oleh keberanian moral kita untuk menegaskan bahawa kuasa membuat keputusan mesti sentiasa terikat rapi dengan amanah pertanggungjawaban kemanusiaan.
Rujukan Pembaca
Lihat Koleksi Buku Ilmiah
*Pautan sokongan editorial ZJ Nadi tanpa sebarang kos tambahan kepada anda.
📚 Terokai Bahan Bacaan & Rujukan Tambahan
Dalami topik sains, kosmos, dan pemikiran kritikal dengan koleksi buku ilmiah pilihan di kedai buku rasmi.
