荣誉表彰人工智能隐私保护研究
崇实大学人工智能学院院长兼人工智能专门研究生院院长崔大善，9月30日在首尔举行的第六届个人信息保护日纪念仪式上，获颁弘条勤政勋章。这是韩国政府授予个人的勤政勋章之一，表彰其在公共利益和相关领域发展方面作出的贡献。
崔大善获奖的主要原因，是他作为人工智能隐私政策政府与民间协商机制风险管理分组负责人，推动建立识别和降低人工智能隐私威胁的方法。相关工作着眼于人工智能处理个人信息时可能出现的多种风险，并尝试将风险分析转化为更系统的管理方案。
人工智能创新需要建立在信任之上。如何在利用数据推动技术发展的同时保护个人信息，已成为人工智能应用的重要课题。
政府与民间共同讨论人工智能风险
本届纪念仪式由韩国个人信息保护委员会举办，主题为“以信任推动人工智能创新社会”。约350名个人信息保护领域的获奖者和相关人士参加，现场颁发了13项政府表彰和52项委员会委员长表彰，崔大善是获得勋章的人员之一。
政府与民间人工智能隐私政策协商机制于当年2月成立，成员共37人，来自产业界、学术界、法律界和公民团体。该机制希望在人工智能带来便利的同时，兼顾可能造成的伤害，共同研究相应的治理规则。
协商机制设有三个分组，分别负责数据处理标准、风险管理和个人信息主体权利。所谓“个人信息主体”，就是个人信息所对应的人，例如某个应用收集了用户的位置记录，该用户就是相关信息的主体。
从风险识别到降低影响
崔大善负责的风险管理分组，重点分析个人信息处理过程中相互关联的风险，并研究如何识别人工智能隐私威胁、降低其影响。人工智能系统可能在训练、运行或提供服务时接触大量数据，因此风险并不只来自数据泄露，也可能涉及信息被超出原定目的使用，或个人难以了解和控制自己的信息。
以日常生活为例，用户上传照片以使用人工智能修图服务时，需要关注照片是否会被保存、是否可能用于其他用途，以及用户能否要求删除。把这些问题转化为明确的评估步骤和应对方案，有助于技术开发者、服务提供者和监管部门更早发现隐患。
风险管理并不只是发现问题，还包括判断风险可能造成的影响，并采取措施避免或减轻损害。
崇实大学持续投入人工智能安全研究
崇实大学人工智能学院设有人工智能软件学部，涵盖人工智能、信息安全、软件和人工智能系统四个专业方向。人工智能专门研究生院则开设人工智能融合安全学科和人工智能生物学科，推进人工智能教育与研究。
学校人工智能安全研究中心开发了名为“穆涅梅”的多智能体漏洞分析系统。多智能体是指多个能够分别执行任务的人工智能程序协同工作；在漏洞分析中，这类系统可以从不同角度检查软件，寻找可能被攻击者利用的弱点。
在一项名为“网络安全实战评测”的全球测试中，“穆涅梅”完成了一级的1507项任务，单次尝试成功率为91.0%。单次尝试成功率指系统只进行一次尝试便完成任务的比例；这一结果显示，相关研究已通过具体任务测试，而不仅停留在概念层面。
个人信息保护与数据利用需要并行
人工智能服务常常依靠数据训练和运行，数据能够帮助系统识别图片、理解语言或提供个性化建议。但如果数据收集范围过大、用途不透明，或者保护措施不足，用户就可能失去对个人信息的控制，技术应用也会因此损害公众信任。
因此，人工智能治理需要同时考虑创新和保护：既要为有益的数据使用提供清晰规则，也要让个人知道信息如何被处理，并在适当情况下拥有查询、更正或删除信息的途径。对企业和研究机构来说，越早把隐私保护纳入设计流程，越有机会在系统投入使用前发现问题。
崔大善：将继续承担研究责任
崔大善表示，个人信息保护领域的法律和制度发展凝聚了许多人的长期努力，自己作为技术研究人员获得这项荣誉，感到格外珍贵。他说，自己将这份荣誉视为与长期共同投入这一领域的人们分享的成果，并感谢个人信息保护委员会及相关机构。
他还表示，进入人工智能时代后，能够兼顾个人信息保护与合理利用的技术将变得更加重要，自己会继续以研究者的身份，为建设值得信赖的人工智能社会尽责。
崔大善目前还担任智能体联盟安全与可信分组负责人，主要研究人工智能安全、可靠性以及人工智能攻击应对技术。随着人工智能进入医疗、教育、金融和日常消费等更多场景，如何持续检验系统安全、明确数据使用边界，并让公众理解相关保护措施，将成为后续研究和治理的重要方向。
