BANDUNG - Dosen Sekolah Teknik Elektro Informatika (STEI) Institut Teknologi Bandung (ITB), Dr Dimitri Mahayana, mengingatkan, Artificial Intellegence (kecerdasan buatan/AI) di Indonesia berpotensi menjadi pseudoscience (ilmu palsu) yang sangat merugikan masyarakat.

Dikutip dari Kompas.com, Dimitri mengingatkan hal itu dalam bedah buku karyanya, Filsafat Sains: Dari Newton, Eisntein, Hingga Sains Data, di Auditorium IPTEK CC Timur ITB. Menurut dia, situasi itu terjadi karena ada dua kesalahan mindset terhadap AI. Pertama, ada jargon “let the data explain itself”. Pengetahuan baru diyakini dapat dijelaskan langsung dari lautan data itu sendiri, sehingga manusia tidak memerlukan kerangka teori ilmiah untuk mengkonstruksi dan memperoleh data.

"Paradigma let the data explain itself ini menciptakan model berbasis data yang tidak dapat dipertanggungjawabkan dan tidak dapat dijelaskan, sehingga melanggar prinsip dasar tata kelola AI," ujar Dimitri dalam rilis yang diterima Kompas.com, Rabu (29/11/2023).

"Pendekatan berbasis data di berbagai industri seperti credit scoring untuk perbankan misalnya, terkadang berdampak fatal bahkan membuat korporasi bangkrut," tutur dia.

Pola pikir ini berpotensi membuat pendekatan berbasis data menghasilkan ketidakadilan. Contoh sederhananya, berdasarkan model machine learning misalnya. Seseorang diduga atau diprediksi menjadi koruptor padahal ini hanya prediksi faktual yang semu (false positive).

Paradigma kedua adalah radikalisme data. Di era big data sekarang, manusia tidak perlu lagi menjawab pertanyaan kenapa. Manusia hanya perlu memaksimalkan perolehan data dan mengungkap manfaat langsung yang bisa dijelaskan dan diperoleh dengan melihat hubungan antar data, baik hubungan statistik sederhana atapun hubungan yang diperoleh melalui teknik pembelajaran mesin statistik.

"Dilatari fondasi demikian, pseudosains bisa terjadi karena ada proposisi, temuan, atau sistem penjelasan yang disajikan sebagai sains, namun tidak memiliki ketelitian penting dalam metode ilmiah. Ini terjadi karena AI memang merupakan hasil penelitian, tapi didasarkan premis yang salah, desain eksperimen yang cacat, atau data yang buruk," sambung Chief Lembaga Riset Telematika Sharing Vision ini.

Dimitri mencontohkan kasus trading digital berbasis AI pada peristiwa Indra Kenz, Doni Salmanan, dan Reza Paten. Reza sudah menjadi tersangka dengan 150 rekening dari 25 bank miliknya Pusat Pelaporan dan Analisis Transaksi Keuangan/PPATK dengan perputaran uang di seluruh rekening lebih dari Rp 1 triliun.

Reza dikenal sebagai pedagang mata uang asing dan menggeluti dunia trading sejak 2019. Laki-laki berusia 38 tahun itu lulusan Teknik Informatika, dia terjun di dunia trading berbarengan berdirinya Net89 yang merupakan platform buatan PT Simbiotik Multitalenta Indonesia dengan selalu menawarkan trading berbasis AI.

"Saya pribadi pernah melakukan riset bersama di STEI ITB berjudul Deep Reinforcement Learning to Automate Cryptocurrency Trading pada Juni 2022. Kesimpulannya penggunaan algoritma optimasi kebijakan proksimal dalam pasar Bitcoin tidak terbukti menghasilkan keuntungan," katanya.

Hal ini sesuai riset global lainnya seperti Andrew W Lo dan Jasmina Hasanhodzic berjudul The Evolution of Technical Analysis: Financial Prediction from Babylonian Tablets to Bloomberg Terminals (2010), bahwa keefektifan analisis teknis dan fundamental dibantah efficient-market hypothesis, yakni harga pasar saham pada dasarnya tidak dapat diprediksi.

Karenanya, sambung riset Paulos, JA pada A Mathematician Plays the Stock Market (2003), penerapan AI pada mesin trading masih dianggap akademisi sebagai pseudoscience.

Dimitri menjelaskan sinyalemen AI sebagai ilmu palsu juga terjadi dalam proses rekrutmen karyawan. Dinamakan sebagai "Mesin Kepribadian", sistem AI ini disebut laman Science Daily dan Tech Crunch, menggunakan gambar wajah orang dalam mencari lima besar ciri kepribadian yang lazim dipakai dalam human resources. Yakni ekstrovert, ramah, terbuka, waspada, dan neurotisisme/prasangka negatif.

"Ternyata, hasil yang ada tidak akurat karena sebagaimana dilansir laman teknologi sebuah studi menemukan bahwa prediksi perangkat lunak dipengaruhi perubahan ekspresi wajah, pencahayaan, latar belakang, dan pakaian orang. Mengapa AI bisa begitu? Studi menjelaskan, hal ini disebabkan fakta bahwa pembelajaran mesin yang digunakan untuk alat AI menggunakan data ketinggalan zaman," katanya.

Solusi Hindari Pseudo Sains

Dimitri mengatakan, solusi pertama secara metode ilmiah, mengikuti Karl Raymund Popper (filsuf sains kondang abad 20) bahwa kita harus memastikan AI benar-benar diuji melalui pengujian yang ketat. Mulai dari pengujian empirikal dan pengujian pragmatik dengan skenario uji yang lengkap dan mewakili kondisi nyata.

Kedua, perusahaan dan institusi yang menerapkan AI direkomendasikan segera menerapkan AI governance yang setidaknya mengimplementasikan prinsip-prinsip seperti accountability, explainability, safety dan human-centered.

AI governance ini sebaiknya diangkat setidaknya setara dengan tata kelola teknologi informasi (IT Governance) maupun tata kelola informasi/data (Information/Data Governance).

"Kemudian pemerintah perlu mulai mengantisipasi dan memikirkan bagaimana agar booming penerapan AI di tanah air terkendali, tertata dengan baik, dan tidak menghasilkan banyak pseudo-science yang malah akan menjadi boomerang menimbulkan banyak kerugian di masyarakat. Tanpa langkah-langkah yang jelas dari pemerintah, komunitas ilmiah, industri yang menerapkan AI, maka AI benar-benar akan jadi pseudo sains," pungkasnya.***