“코드와 법이 충돌하는 시대” - AI 안보 학자 동국대 강장묵 교수 인도서 ‘신뢰 아키텍처’ 제안

“코드와 법이 충돌하는 시대” - AI 안보 학자 동국대 강장묵 교수 인도서 ‘신뢰 아키텍처’ 제안

입력 2026-02-20 14:26
수정 2026-02-20 14:28
  • 기사 읽어주기
    다시듣기
  • 글씨 크기 조절
  • 댓글
    0
2026년은 한국의 ‘AI 기본법’과 인도의 ‘IndiaAI Mission’이 각기 닻을 올린 해다. 두 나라의 AI 거버넌스가 처음으로 학술의 무대 위에서 조우했다. 그 교차점에 선 것은 동국대학교 강장묵 교수였다.

인도의 수도 뉴델리 인근 구르가온에 있는 Amity 법과대학은 2026년 2월 17일 오후, 유엔 SDG 제4호(양질의 교육), 제9호(산업·혁신·인프라), 제16호(평화·정의·강한 제도)를 내걸고 ‘인공지능과 형사법에 관한 국제 심포지엄’을 열었다. 이 자리에 강 교수가 기조연설자로 초청됐다.

그는 정보보안공학 박사(2005년, 고려대학교)와 정치학 박사(2009년)를 취득한 이중 박사 학위자로, SCI/SCOPUS 등재 논문 70편 이상을 보유한 AI 보안 분야 권위자다. 강 교수는 한국지능로보틱스㈜ 대표이사를 겸직하며, ‘K-ADA(Korean AI-Defense Architecture)’ 프레임워크의 설계자이기도 하다.

이미지 확대
▲ 강장묵 동국대 교수. Amity University 배포 공식 연사 사진.
▲ 강장묵 동국대 교수. Amity University 배포 공식 연사 사진.


두 나라의 AI 대전략이 만나는 지점

강 교수의 발표는 단순한 기술 강연이 아니라 두 거대 아시아 국가의 AI 국가전략이 처음으로 학술적 대화를 시도한 자리였다.

한국의 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’은 2026년 1월 22일 시행됐다. EU에 이어 전 세계 두 번째이자 아시아·태평양 최초의 포괄적 AI 입법이다. 이 법은 11개 분야의 ‘고영향 AI’에 대한 강화된 의무, AI 생성 콘텐츠 라벨링, 외국 AI 기업의 국내대리인 지정을 골자로 한다.

인도의 IndiaAI Mission은 2024년 3월 내각이 승인한 5개년 계획으로, 총 10,372크로르 루피(약 1조 3800억원)를 투입한다. 38,000개 이상의 GPU 확보, 12개 자국 AI 스타트업 지원, ‘Safe & Trusted AI’ 등 7대 축으로 구성된다. 주목할 것은 이 미션의 ‘Safe & Trusted AI’ 축이 IIT 조드푸르의 ‘머신 언러닝(Machine Unlearning)’ 프로젝트를 공식 지원 중이라는 점으로, 강 교수의 발표 주제와 정확히 맞닿아 있다.

‘잊힐 권리’의 역설: AI는 정말 잊을 수 있는가

이번 발표에서 가장 주목받은 논점은 ‘머신 언러닝의 법적 역설’이었다. 인도의 DPDP(Digital Personal Data Protection) Act 2023은 데이터 주체에게 자신의 개인정보를 AI 모델에서 삭제할 것을 요구할 수 있는 잊힐 권리(Right to Erasure)를 부여한다.

하지만 딥러닝 모델은 데이터를 저장하는 것이 아니라 수억 개의 파라미터에 패턴으로 녹여 넣는다. 이를 삭제하려면 모델 전체를 재학습하거나, 강 교수가 제안하는 PD-KD(Pathway-aware Defense via Knowledge Distillation) 기법으로 해당 데이터의 영향력만 수술적으로 제거해야 한다. 그는 이 과정이 법정에서 증명 가능한지를 ‘Membership Inference AUC’라는 통계적 지표로 검증하는 방법론을 제시했다.

물리적 국경 없는 ‘인지 전쟁’의 도래

강 교수는 AI 시대의 미래 범죄를 세 가지로 분류했다. ①인지 전쟁(Cognitive Warfare): 대규모 지식 오염으로 AI의 세계 인식 자체를 왜곡하는 공격. ②합성 신분 사기(Synthetic Identity Fraud): 딥페이크로 다중 인증(MFA) 시스템을 우회하는 범죄. ③자동화 기업 스파이(Automated Corporate Espionage): 에이전틱 AI가 합법적 도구 호출을 위장해 기업 기밀을 유출하는 행위다.

특히 인지 전쟁의 위험성을 설명하기 위해 인용한 PoisonedRAG 연구(Zou et al., 2024)는 현실감을 더했다. 약 270만개 데이터 중 단 5개의 악성 텍스트만으로 AI의 답변을 97% 확률로 통제할 수 있다는 이 연구는 USENIX Security 2025 학회에 채택된 최상위 보안 연구다.

‘법-기술 외교’의 적기에 선 강연

강 교수의 발표가 2월 17일이라는 점도 의미가 있다. 불과 나흘 전인 2월 12~13일, 서울에서는 한국-인도 제6차 외교정책·안보대화(FPSD)가 열려 AI, 반도체, 핵심광물 협력 확대를 합의했다. 강연 다음 날부터는 뉴델리에서 ‘India AI Impact Summit 2026’이 개최됐는데, 한국 배경훈 부총리가 정부 대표단을 이끌고 참석해 한국의 AI 기술 역량을 홍보했다.

강 교수는 이 맥락에서 ‘K-ADA’ 프레임워크를 글로벌 남반구 국가들을 위한 AI 방어 아키텍처의 표준으로 제안하며, “한국의 기술 역량과 인도의 디지털 공공 인프라(DPI) 규모가 결합하면 진정한 글로벌 AI 신뢰 아키텍처가 탄생할 수 있다”고 밝혔다.
Copyright ⓒ 서울신문 All rights reserved. 무단 전재-재배포, AI 학습 및 활용 금지
Q.
기사를 끝까지 읽으셨나요? 이제 AI 퀴즈로 기사의 핵심 내용을 점검해보세요.
한국의 AI 기본법은 언제 시행되었나요?
close button
많이 본 뉴스
1 / 3
일상 및 업무 내 AI 서비스 활용 비중은 어느 정도입니까?
일상 및 업무 내 AI 서비스 활용 비중은 어느 정도입니까?
일과 대부분을 AI와 병행한다.
단순 참고용으로 간헐적 활용한다.
거의 활용하지 않거나 직접 수행하는 방식이 우선이다.
지난 Poll
-->
광고삭제
광고삭제
위로