AIのプライバシー対策への貢献を評価
崇実大学の崔大善（チェ・デソン）AI学長兼AI専門大学院長が、紅条勤政勲章を受章しました。9月30日にソウルで開かれた「第6回個人情報保護の日」の記念式典で授与され、AI（人工知能）の利用に伴うプライバシー上の脅威を分析し、その軽減策を体系化した功績が評価されました。
崔氏は、韓国の個人情報保護委員会が設けた「人工知能プライバシー官民政策協議会」で、リスク管理部会の責任者を務めています。式典には、個人情報保護に関わる関係者ら約350人が参加し、政府表彰13件と委員長表彰52件が贈られました。
AIを広く活用するには、便利さだけでなく、個人の情報がどのように扱われるかを確認し、必要な対策を講じることが欠かせません。
個人情報の「使い方」と「守り方」をともに検討
官民政策協議会は、個人情報保護委員会が2026年2月に発足させた協議の場です。産業界、大学、法律の専門家、市民団体などから37人が参加し、AIの利点を生かしながら、利用に伴う危険を抑えるためのルールや仕組みを検討しています。
協議会は、データの取り扱い基準、リスク管理、情報主体の権利という3つの部会で構成されています。情報主体とは、個人情報によって特定されたり、その情報を利用されたりする本人のことです。たとえば、AIサービスに入力した氏名や相談内容が、どのように保存・利用されるのかを本人が把握し、必要に応じて対応できることが重要になります。
崔氏が担当するリスク管理部会では、個人情報の処理に関わる複数の危険を分析し、AIによるプライバシー侵害を見つける方法や、被害を小さくするための考え方を整理してきました。AIでは、情報の収集、学習、回答の生成、サービス提供後のデータ管理など、さまざまな段階で個人情報が関わるため、一つの対策だけで全ての問題を防ぐのは容易ではありません。
AIサービスで考えられるリスク
- 本人の同意や理解が不十分なまま、個人情報が集められたり利用されたりする。
- AIが学習した情報から、本人の意図しない形で個人に関する内容が推測される。
- 入力した相談内容や記録が適切に管理されず、第三者に漏れる可能性がある。
- AIの判断や回答に誤りがあっても、誰が確認し、どう訂正するのかが不明確になる。
こうしたリスクは、たとえばAIに医療や仕事の相談をした際、その内容が本人の想定を超えて利用されないかという身近な問題にもつながります。技術的な対策に加え、データを扱う組織の手順や、利用者への説明、問題が起きた際の対応方法を整える必要があります。
AIの安全性研究と大学での教育
崇実大学は、AIに加え、情報保護、ソフトウェア、AIシステムなどを学ぶ教育・研究体制を設けています。AI専門大学院では、AI融合セキュリティ学科とAIバイオ学科を運営し、AI技術と他分野を組み合わせた人材育成にも取り組んでいます。
大学のAI安全性研究センターが開発したのが、複数のAIエージェント（異なる役割を担って連携するAIプログラム）を用いた脆弱性分析システム「ムネメ」です。脆弱性とは、ソフトウェアやシステムにある、攻撃や不正利用につながり得る弱点を指します。
大学の発表によると、ムネメは実践型の国際評価「CyberGym」のレベル1にある1,507課題で、1回の試行による成功率91.0％を記録しました。この評価は特定の課題群での成績を示すものであり、あらゆる環境や攻撃に対して同じ性能を保証するものではありません。それでも、AIを使ってシステムの弱点を探し、安全性の向上に役立てる研究事例の一つとなっています。
プライバシー保護とセキュリティは補い合う
個人情報を守るには、データを外部に漏らさないためのセキュリティ対策だけでなく、そもそも何を、何の目的で、どれほどの期間利用するのかを慎重に決めることも重要です。たとえば、家の鍵を頑丈にするだけでなく、誰に合鍵を渡すか、どの部屋に入れるかを決めるのと似ています。
AIの安全性研究は、攻撃や誤作動への備えを強める一方で、個人情報の取得や利用を適切に制限する制度・運用と組み合わせる必要があります。技術とルールの両面を整えることが、利用者が安心してAIを使える環境につながります。
崔氏「保護と活用を両立する技術が重要」
崔氏は受章について、個人情報保護の法制度の発展に力を尽くしてきた人々に続き、技術分野の研究者として大きな賞を受けたことを意義深く感じると述べました。また、長年この分野でともに考え、取り組んできた人たちを代表して受け取る賞だとし、個人情報保護委員会や関係機関に謝意を示しました。
「AI時代には、個人情報の保護と活用をともに実現できる技術が、いっそう重要になる。信頼できるAI社会をつくるため、技術研究者として責任を果たしたい」
AIの活用が進むほど、サービスを開発する側には、情報を集める段階から利用後の管理まで、リスクを継続的に点検する姿勢が求められます。利用者にとっても、入力した情報が何に使われるのかを理解でき、問題があれば相談や訂正を行える仕組みが重要です。
受賞を機に問われる、信頼できるAIの条件
今回の受章は、AIの性能向上だけでなく、個人情報の扱いを含む安全性の研究も評価の対象となったことを示しています。AIが教育、医療、金融、行政などに広がるにつれ、データを守る仕組みと、AIの判断を点検する仕組みをどう整えるかは、大学や企業、行政に共通する課題となっています。
今後、官民の協議でまとめられる基準やリスク管理の方法が、具体的なサービスの設計や運用に反映されるかが焦点です。制度を作るだけでなく、利用者に分かる説明を行い、技術の変化に応じて対策を見直せるかどうかが、信頼の積み重ねを左右します。
崔大善氏の主な役職・研究分野
- 崇実大学AI学長兼AI専門大学院長。
- 人工知能プライバシー官民政策協議会のリスク管理部会長。
- エージェンティック・アライアンスの安全・信頼部会長。
- 主な研究分野は、AIセキュリティ、安全性、AI攻撃への対応技術。
- 2026年、第6回個人情報保護の日に紅条勤政勲章を受章。
技術・制度・利用者の理解をつなぐ
個人情報を守りながらAIの利点を生かすには、技術的な防御、明確な利用ルール、利用者が理解できる説明の三つが欠かせません。どれか一つだけでは十分とは限らず、サービスの設計から運用、問題発生後の対応まで、複数の段階で確認を続ける必要があります。
崔氏が掲げる「信頼できるAI社会」の実現に向けて、研究成果が実際のサービスや政策にどう生かされるかが今後の課題です。今回の受章は、AIの便利さと個人の権利を両立させるための取り組みが、社会全体でさらに求められていることを改めて示しました。
