과기정통부, AI 안전성·신뢰성 다룬 기술영향평가 책자 발간...전문가·시민 정책제언 담아

과학기술정보통신부가 인공지능 기술의 사회적 영향을 분석한 '인공지능과 함께 살아갈 세상, 불안과 희망' 책자를 발간했다.

[한국정보기술신문] 과학기술정보통신부(장관 배경훈)가 2024년 기술영향평가 결과를 담은 '인공지능(AI)과 함께 살아갈 세상, 불안과 희망' 책자를 23일 발간했다. 이번 책자는 급속도로 발전하는 인공지능 기술이 우리 사회에 미치는 영향을 종합적으로 분석하고, 전문가와 시민이 함께 제시한 정책 방향을 담았다.

책자는 인공지능 기술의 핵심 쟁점인 '안전성과 신뢰성' 문제를 중심으로 구성됐다. 특히 인간형 로봇(휴머노이드), 양방향 뇌-컴퓨터 인터페이스(BCI), 건강 돌봄 인공지능 분야의 주요 현안과 사회적 영향, 대응 과제를 정리했다. 전문가와 시민이 참여한 토론회와 설문조사를 통해 다양한 의견을 반영해 이해하기 쉽게 구성한 것이 특징이다.

'안전·신뢰 AI' 개념 정립

과기정통부는 이번 책자에서 '안전·신뢰 인공지능'의 개념을 명확히 정의했다. 안전·신뢰 AI는 기술의 정확성, 일관성, 예측 가능성은 물론 위험요소에 대한 통제가능성과 책임성까지 포함하는 개념이다. 단순한 기술적 안전성을 넘어 준법적이고 윤리적이며 안전하고 책임성 있는 인공지능을 통칭한다.

특히 인간 신체와 의식에 밀접하게 연결된 고위험 분야에서의 AI 기술 확산은 사회적 수용성과 더불어 안전성 검증 및 신뢰 확보가 중요한 과제로 대두되고 있다. 휴머노이드, 양방향 BCI, 헬스케어 등이 대표적인 고위험 분야로 꼽힌다.

휴머노이드 AI의 사회적·윤리적 과제

책자는 먼저 인간형 인공지능(휴머노이드 AI) 분야의 다양한 쟁점을 다뤘다. 사회·산업적 기대감이 높아지는 휴머노이드 로봇의 학습 오류와 오작동 가능성을 지적했다. 또한 사람과 로봇 간 의사소통 오류, 센싱 기술의 개인정보 침해 등 여러 사회적·윤리적 문제를 분석했다.

휴머노이드 로봇이 인간과 유사한 형태로 다양한 환경에서 활동하게 되면서, 안전성 확보와 윤리적 기준 마련이 시급한 상황이다. 특히 로봇의 자율적 판단과 행동이 인간에게 미칠 수 있는 영향에 대한 사전 검증 체계가 필요하다는 의견이 제시됐다.

뇌 인공지능(브레인 AI) 분야에서는 뇌 신호 복호화(디코딩)와 양방향 BCI 기술의 가능성과 위험을 균형있게 다뤘다. 이 기술은 의료·재활 등에서 새로운 가능성을 열 것으로 기대되지만, 군사적 전용 가능성과 보안 취약성이 우려된다. 특히 뇌 자극으로 인한 중독 위험 등 잠재적 부작용에 대한 면밀한 검토가 필요하다는 점을 강조했다.

브레인 AI 기술은 인간의 가장 내밀한 영역인 뇌와 직접 연결된다는 점에서 다른 AI 기술보다 높은 수준의 윤리적 고려가 요구된다. 책자는 기술 발전과 함께 안전장치 마련이 동시에 이뤄져야 한다고 제언했다.

헬스케어 AI의 다각적 문제점 제기

건강 돌봄 인공지능(헬스케어 AI) 분야에서는 빅데이터 수집·활용 과정의 문제점을 집중 조명했다. 의료 의사결정에서의 책임 소재, 연령·인종·소득에 따른 건강 형평성 문제가 핵심 쟁점으로 제시됐다. 또한 건강 데이터의 상업적 이용, 개인정보 유출, 데이터 편향과 과도한 의존 문제 등을 다각도로 분석했다.

헬스케어 AI는 의료 접근성을 개선하고 진단의 정확도를 높일 수 있지만, 잘못된 데이터나 알고리즘 편향으로 인한 오진 가능성도 존재한다. 특히 AI 의료 시스템의 결정에 대한 책임 소재를 명확히 하는 것이 시급한 과제로 떠올랐다.

2024년 기술영향평가 추진과정과 주요 결과도 상세히 소개됐다. 전문가와 시민이 함께 논의하여 '인간형 인공지능', '뇌 인공지능', '건강 돌봄 인공지능'의 핵심 쟁점을 발굴하고 대응 과제를 제안했다. 핵심 쟁점으로는 개인정보 위험, 사고·오류 책임소재, 일자리·사회변화 등이 꼽혔다.

이에 대한 핵심과제로는 미래기술 안전성 기본법 제정, 윤리안전 가이드라인 마련, 민감정보 기반 기술 관리 체계(거버넌스) 구축, 미래기술 안전성 연구개발 등이 제시됐다. 이는 기술 발전과 사회적 안전망 구축을 동시에 추구하는 균형잡힌 접근이라는 평가를 받고 있다.

지속적인 기술영향평가 추진 예고

임요업 과기정통부 과학기술혁신조정관은 "인공지능 기술의 안전성과 신뢰성 확보는 기술 수용성과 사회 신뢰의 기반"이라고 강조했다. 그는 "국민과 함께 기술의 미래를 설계하는 것이 핵심"이라며 "앞으로도 전문가와 시민이 함께 참여하는 기술영향평가를 지속적으로 추진할 것"이라고 밝혔다.

과기정통부는 2001년 과학기술기본법 제정으로 기술영향평가가 의무화된 이후 2024년까지 총 25개 기술에 대해 평가를 수행해왔다. 이번 책자는 9월 23일부터 과기정통부 누리집(msit.go.kr)과 한국과학기술기획평가원 누리집(kistep.re.kr)에서 확인할 수 있다.

한국정보기술신문 인공지능분과 박정후 기자 news@kitpa.org