Penghargaan untuk riset privasi dan keamanan AI

Max Sun Choi, dekan Sekolah AI sekaligus direktur Sekolah Pascasarjana AI Universitas Soongsil, menerima Medali Hongjo Geunjeong pada 30 September 2026. Penghargaan itu diberikan dalam peringatan Hari Perlindungan Informasi Pribadi ke-6 yang berlangsung di Seoul, Korea Selatan. Choi dinilai berjasa menyusun pendekatan sistematis untuk mengenali serta mengurangi ancaman privasi yang muncul dari penggunaan kecerdasan buatan (AI, teknologi yang memungkinkan komputer menjalankan tugas seperti memahami bahasa atau mengenali pola).

Penghargaan tersebut diberikan ketika penggunaan AI semakin meluas di berbagai layanan, mulai dari aplikasi percakapan hingga sistem yang membantu mengolah dokumen dan data. Kemampuan AI untuk memproses informasi dalam jumlah besar dapat membawa manfaat, tetapi juga menimbulkan pertanyaan tentang data pribadi yang dikumpulkan, cara pemakaiannya, dan perlindungan terhadap kebocoran. Karena itu, upaya membuat AI lebih aman tidak hanya berkaitan dengan kinerja teknis, tetapi juga dengan kepercayaan masyarakat.

Choi mengatakan bahwa penghargaan itu terasa bermakna karena ia menerimanya sebagai peneliti bidang teknologi, setelah banyak pihak bekerja untuk mendorong perkembangan hukum dan kebijakan perlindungan data pribadi.

Menilai risiko sejak data diproses

Choi memimpin kelompok kerja pengelolaan risiko dalam Dewan Kebijakan Publik-Swasta tentang Privasi AI. Dewan ini dibentuk oleh Komisi Perlindungan Informasi Pribadi Korea Selatan pada Februari 2026. Sebanyak 37 peserta dari industri, perguruan tinggi, bidang hukum, organisasi masyarakat sipil, dan kalangan lain terlibat dalam pembahasannya.

Tugas kelompok kerja tersebut adalah menelaah berbagai risiko yang dapat timbul selama informasi pribadi diproses oleh sistem AI, lalu menyusun langkah untuk mengurangi risiko itu. Contohnya, sebuah aplikasi mungkin menggunakan riwayat percakapan untuk memberi jawaban yang lebih sesuai. Jika informasi dalam percakapan tersebut memuat alamat, kondisi kesehatan, atau data keluarga, pengguna perlu mengetahui bagaimana informasi itu disimpan dan siapa yang dapat mengaksesnya.

Pendekatan pengelolaan risiko dapat membantu organisasi memeriksa kemungkinan masalah sebelum teknologi digunakan secara luas. Pemeriksaan itu dapat mencakup jenis data yang dihimpun, tujuan penggunaannya, pihak yang menerima data, dan cara menangani kesalahan atau kebocoran. Dengan langkah seperti ini, perlindungan privasi diharapkan tidak hanya dilakukan setelah terjadi insiden.

Kerja sama lintas bidang

Dewan tersebut memiliki tiga kelompok kerja yang membahas standar pemrosesan data, pengelolaan risiko, dan hak individu sebagai pemilik data. Pembagian ini menggabungkan sudut pandang teknis dengan pertimbangan hukum dan kebutuhan masyarakat. Misalnya, pengembang dapat menjelaskan bagaimana sistem bekerja, sementara ahli hukum dan perwakilan masyarakat menelaah apakah praktiknya adil dan mudah dipahami pengguna.

Kolaborasi semacam ini penting karena risiko AI jarang dapat diselesaikan hanya dengan satu jenis keahlian. Sebuah sistem mungkin memiliki perlindungan teknis yang kuat, tetapi tetap membingungkan pengguna mengenai pilihan mereka. Sebaliknya, aturan yang jelas perlu didukung teknologi dan prosedur kerja yang benar-benar dapat diterapkan.

Penghargaan diberikan di tengah perhatian pada perlindungan data

Peringatan Hari Perlindungan Informasi Pribadi ke-6 tahun ini mengusung tema “Masyarakat inovasi AI yang berkembang melalui kepercayaan”. Sekitar 350 orang yang berkecimpung dalam perlindungan data dan bidang terkait menghadiri acara tersebut. Dalam kesempatan itu, pemerintah memberikan 13 penghargaan, termasuk medali, serta 52 piagam dari ketua komisi terkait.

Medali Hongjo Geunjeong yang diterima Choi merupakan salah satu penghargaan pemerintah dalam acara tersebut. Pengakuan itu menyoroti kontribusinya dalam merancang cara untuk mendiagnosis dan mengurangi ancaman privasi, bukan sekadar mengembangkan fungsi AI. Hal ini mencerminkan perhatian bahwa inovasi perlu berjalan bersama langkah untuk menjaga informasi pribadi.

Bagi masyarakat, persoalan tersebut dapat terlihat dalam hal-hal sehari-hari: apakah foto yang diunggah digunakan untuk melatih sistem, apakah isi percakapan disimpan, atau bagaimana keputusan otomatis dibuat berdasarkan data seseorang. Pertanyaan seperti ini menunjukkan mengapa perlindungan privasi perlu diterangkan dengan jelas dan diterapkan sejak tahap perancangan layanan.

Riset keamanan AI di Universitas Soongsil

Universitas Soongsil menjalankan pendidikan AI melalui sejumlah program. Sekolah AI memiliki empat bidang di tingkat sarjana: AI, perlindungan informasi, perangkat lunak, dan sistem AI. Sekolah Pascasarjana AI juga mengelola program keamanan konvergensi AI serta AI dan biologi, yang menghubungkan teknologi AI dengan bidang lain.

Universitas itu turut memiliki Pusat Penelitian Keamanan AI. Salah satu hasil pengembangannya adalah Muneme, sistem analisis kerentanan multiagen. Multiagen berarti beberapa program AI bekerja bersama untuk memeriksa masalah dari sudut atau tahapan yang berbeda; dalam konteks keamanan, sistem seperti ini dapat membantu mencari kelemahan perangkat lunak.

Menurut keterangan universitas, Muneme mencatat tingkat keberhasilan 91,0% dalam satu kali percobaan pada 1.507 tugas CyberGym Level 1. CyberGym merupakan lingkungan evaluasi untuk menguji kemampuan sistem dalam menganalisis kerentanan perangkat lunak. Angka tersebut menggambarkan hasil pada tugas dan tingkat pengujian itu, sehingga tidak dengan sendirinya membuktikan bahwa sistem dapat menemukan semua jenis ancaman di kondisi nyata.

Mengapa pengujian keamanan dibutuhkan

Sistem AI dan perangkat lunak dapat memiliki celah yang dimanfaatkan untuk mengakses data atau mengganggu layanan. Pengujian membantu peneliti menemukan kelemahan lebih awal, sebelum teknologi diterapkan pada sistem yang digunakan banyak orang. Namun, hasil uji laboratorium tetap perlu dilengkapi dengan pemeriksaan berulang, pengawasan manusia, dan evaluasi pada beragam situasi penggunaan.

Keamanan AI juga berkaitan dengan kemampuan sistem menghadapi serangan dan menghindari keluaran yang membahayakan. Karena itu, riset yang menggabungkan AI, keamanan informasi, dan perlindungan privasi dapat mendukung pengembangan layanan yang bukan hanya cepat, tetapi juga lebih dapat dipercaya.

Komitmen untuk AI yang dapat dipercaya

Choi menyampaikan terima kasih kepada Komisi Perlindungan Informasi Pribadi dan berbagai lembaga terkait. Ia mengatakan penghargaan tersebut juga mewakili banyak orang yang telah bekerja bersama untuk membahas dan memperbaiki perlindungan data pribadi. Menurutnya, tanggung jawab untuk membangun masyarakat AI yang dapat dipercaya perlu terus dijalankan oleh para peneliti teknologi.

“Pada era AI, teknologi yang mampu mencapai perlindungan sekaligus pemanfaatan informasi pribadi akan semakin penting. Sebagai peneliti teknologi, saya akan menjalankan tanggung jawab untuk membantu membangun masyarakat AI yang dapat dipercaya,” kata Choi.

Pernyataan itu menyoroti keseimbangan yang menjadi tantangan utama: data diperlukan agar banyak layanan AI dapat bekerja dengan baik, tetapi penggunaan data perlu dibatasi dan dijelaskan secara bertanggung jawab. Dalam praktiknya, keseimbangan tersebut dapat berarti hanya mengumpulkan informasi yang memang dibutuhkan, membatasi akses, serta memberi pengguna penjelasan dan kendali yang memadai.

Ke depan, pertumbuhan layanan AI kemungkinan akan membuat persoalan ini semakin nyata bagi pengguna, perusahaan, dan pembuat kebijakan. Penghargaan kepada Choi menempatkan pengelolaan risiko privasi sebagai bagian penting dari inovasi teknologi. Namun, keberhasilan jangka panjang tetap bergantung pada penerapan perlindungan yang konsisten, pengujian keamanan yang memadai, serta kerja sama antara pengembang, pemerintah, dan masyarakat.