인공지능 개인정보 보호 공로로 훈장 수상

최대선 숭실대학교 인공지능대학장 겸 인공지능전문대학원장이 홍조근정훈장을 받았다. 그는 9월 30일 서울에서 열린 제6회 개인정보 보호의 날 기념식에서 훈장을 수여받았다. 인공지능 서비스가 개인정보를 다루는 과정에서 생길 수 있는 위험을 분석하고, 이를 줄이는 방안을 체계화한 공로를 인정받았다.

홍조근정훈장은 공공 분야의 발전과 국가 사회에 기여한 사람에게 수여되는 정부 훈장이다. 이번 기념식은 ‘신뢰로 도약하는 인공지능 혁신 사회’를 주제로 열렸으며, 개인정보 보호 분야 관계자 등 약 350명이 참석했다. 행사에서는 정부포상 13점과 개인정보보호위원장 표창 52점이 수여됐고, 최대선 학장은 훈장 수상자로 선정됐다.

인공지능이 더 많은 개인정보를 분석하고 활용할수록, 편리함과 함께 정보가 노출되거나 예상하지 못한 방식으로 쓰일 위험도 커진다. 위험을 미리 찾아내고 줄이는 절차가 신뢰할 수 있는 서비스의 중요한 기반이다.

민관 협의체에서 위험 관리 방안 마련

최 학장은 개인정보보호위원회가 출범시킨 인공지능 프라이버시 민관정책협의회에서 위험 관리 분과장을 맡고 있다. 민관 협의체란 정부와 기업, 학계, 법조계, 시민사회가 함께 정책과 기준을 논의하는 조직을 말한다. 이 협의회에는 산업계·학계·법조계·시민단체 관계자 37명이 참여해 인공지능의 편익과 위험을 함께 고려하는 규율 체계를 마련하고 있다.

협의회는 데이터 처리 기준, 위험 관리, 정보주체 권리 등 세 분야로 나뉘어 운영된다. 여기서 정보주체는 개인정보의 주인이 되는 사람, 예를 들어 온라인 서비스를 이용하며 이름이나 위치 정보를 제공한 이용자를 뜻한다. 최 학장이 이끄는 위험 관리 분과는 개인정보 처리 과정에서 나타날 수 있는 여러 위험을 살피고, 인공지능 프라이버시 위협을 진단해 완화 방안을 정리했다.

위험은 개인정보가 외부로 유출되는 경우에만 한정되지 않는다. 예를 들어 음성 비서가 사용자의 목소리를 저장하거나, 사진 분석 서비스가 이미지 속 사람을 식별하거나, 학습 데이터에 포함된 개인 정보가 결과에 드러날 수도 있다. 이런 가능성을 서비스 설계와 운영 단계에서 점검하고 적절한 보호 조치를 마련하는 일이 위험 관리의 핵심이다.

개인정보 보호와 인공지능 활용의 균형

개인정보를 엄격히 보호하는 일과 인공지능 개발에 필요한 데이터를 활용하는 일은 때로 긴장 관계에 놓인다. 데이터 활용을 지나치게 제한하면 서비스 개선과 연구가 어려워질 수 있고, 반대로 보호 장치가 부족하면 이용자의 사생활과 권리가 침해될 수 있다. 따라서 어떤 정보를 왜 수집하는지, 누가 얼마나 오래 보관하는지, 이용자가 통제하거나 삭제를 요청할 수 있는지를 함께 살펴야 한다.

이 같은 기준은 개인 이용자뿐 아니라 기업과 공공기관에도 실질적인 의미가 있다. 예컨대 고객 상담 기록으로 인공지능 서비스를 개선하려는 기업은 필요한 정보만 수집하고, 목적에 맞게 사용하며, 접근 권한과 보관 기간을 관리해야 한다. 위험을 사전에 살피는 체계가 자리 잡으면 이용자는 서비스에 대한 신뢰를 높이고, 제공자는 개인정보 사고로 인한 피해를 줄일 수 있다.

인공지능 보안·안전성 연구도 이어가

숭실대학교는 인공지능 교육과 연구를 위해 여러 전공과 학과를 운영하고 있다. 인공지능대학의 인공지능소프트웨어학부에는 인공지능·정보보호·소프트웨어·인공지능시스템 전공이 마련돼 있다. 인공지능전문대학원에서는 인공지능융합보안학과와 인공지능바이오학과를 운영하며 관련 분야 인재를 양성하고 있다.

대학 인공지능안전성연구센터는 다중 에이전트 취약점 분석 시스템 ‘무네메’를 개발했다. 다중 에이전트는 여러 인공지능 프로그램이 역할을 나눠 함께 작업하는 방식이며, 취약점은 시스템의 약한 부분이나 공격에 악용될 수 있는 결함을 뜻한다. 이 시스템은 인공지능 소프트웨어의 보안 문제를 찾아내는 실전 평가인 사이버짐 1단계의 과제 1,507개에서 한 번 시도했을 때 91.0%의 성공률을 기록했다.

높은 평가 성적이 의미하는 것

취약점 분석 도구는 소프트웨어를 공격하는 데 악용될 수 있는 약점을 찾아내고, 개발자가 이를 고칠 수 있도록 돕는다. 실제 서비스에서는 한 번의 시험 성적만으로 안전성을 모두 판단할 수 없지만, 많은 과제를 높은 성공률로 분석했다는 결과는 보안 점검을 자동화하고 반복하는 데 활용할 가능성을 보여준다. 연구 성과가 현장에 적용되려면 다양한 환경에서 성능을 확인하고, 오탐이나 놓치는 문제를 꾸준히 검증해야 한다.

“신뢰할 수 있는 인공지능 사회에 책임 다할 것”

최 학장은 개인정보 보호 분야의 법과 제도 발전에 힘써 온 사람들에 이어 기술 연구자로서 큰 상을 받게 돼 뜻깊다고 밝혔다. 또 오랫동안 함께 고민하고 노력해 온 관계자들을 대신해 받는 상이라고 생각한다며 개인정보보호위원회와 관련 기관에 감사의 뜻을 전했다.

그는 인공지능 시대에는 개인정보를 보호하면서도 필요한 활용을 가능하게 하는 기술이 더욱 중요해질 것이라고 말했다. 이어 신뢰할 수 있는 인공지능 사회를 만드는 데 기술 연구자로서 책임을 다하겠다고 밝혔다. 개인정보 보호와 인공지능 혁신을 함께 달성하려면 제도와 기술, 실제 서비스 운영이 서로 맞물려 발전해야 한다는 취지다.

앞으로의 과제는 기술을 실제 보호로 연결하는 것

인공지능 서비스가 의료, 금융, 교육, 행정 등 일상적인 영역으로 넓어지면서 개인정보가 처리되는 방식도 복잡해지고 있다. 따라서 위험 진단 기준을 마련하는 데 그치지 않고, 기업과 기관이 이를 실제 서비스에 적용할 수 있도록 구체적인 점검 절차와 책임 체계를 갖추는 것이 중요하다. 이용자가 자신의 정보가 어떻게 쓰이는지 이해하고 선택할 수 있게 하는 장치도 함께 마련돼야 한다.

이번 수상은 인공지능 보안과 개인정보 보호를 결합한 연구·정책 활동의 중요성을 보여준다. 향후에는 새로운 인공지능 기술이 등장할 때마다 위험을 신속히 평가하고, 실제 피해 사례와 연구 결과를 기준과 기술 개선에 반영하는 과정이 필요하다. 인공지능의 활용 범위가 커질수록 개인정보 보호를 설계 단계부터 고려하는 것이 신뢰의 출발점이 될 전망이다.