전문가들은 생성형 인공지능(AI)을 건강·의료에 활용할 때 이용자는 정보를 정확하게 해석하기 위한 주의력과 지식이 요구된다고 강조한다. 특히 AI가 잘못된 데이터를 학습한 뒤 부정확한 정보를 내놓는 ‘AI 환각’을 경계해야 한다고 조언한다.
한국보건의료연구원(NECA)은 지난 7일 발표한 ‘의료 분야 생성형 AI 적정 활용 원칙’에서 이용자에게 “스스로 보호하고 판단하는 현명한 이용이 필요하다”고 당부했다. 개발자와 의료인뿐 아니라 환자·보호자에게 AI 이용의 자율성과 책임을 동시에 요구한 것이다. 국내에서 이용자를 대상으로 의료 AI 관련 릴게임하는법 활용 원칙이 나온 건 처음이다. NECA는 AI가 생산하는 ‘그럴듯해 보이는 정보’를 걸러내기 위해선 정보의 출처와 근거를 확인해야 한다고 강조했다. 또 AI 답변만으로 자신의 건강 상태를 단정해선 안 된다고 당부했다.
의료인에게는 AI를 임상 판단을 돕는 참고 도구로 활용하되 최종 의사결정의 책임은 의료인에게 있음을 분명히 했다. AI 바다이야기게임방법 개발자와 서비스 제공자에게는 환자 안전과 투명성 확보, 공정성·설명가능성의 강화, ‘인간 감독의 내재화’ 등을 핵심 원칙으로 제시했다. 인간 감독의 내재화란 의료 AI가 독자적으로 판단·결정하지 못하도록 설계 단계부터 인간의 개입과 책임을 구조 안에 넣어두는 것을 뜻한다. 신상진 NECA 연구기획팀장은 “(이번 원칙은) AI를 잘 사용하는 것에 초점을 둔 바다이야기예시야마토게임 사회적 약속”이라고 말했다.
세계보건기구(WHO)도 의료 AI가 자가 진단이나 치료 수단으로 오인될 수 있는 위험을 미리 경고한 바 있다. 지난해 3월 발간한 ‘보건의료 분야의 AI 윤리와 거버넌스 가이드라인’에서 의료 AI가 내놓는 응답이 정확한 것처럼 보이는 특징이 있다고 짚었다.
전문가들은 환자와 의사가 함께 AI 골드몽릴게임릴게임 를 활용하되 양측이 적극적으로 소통할 필요가 있다고 강조했다. 장창현 정신건강의학과 전문의(신천연합병원 진료과장)는 “환자든 의사든 의료 현장에선 AI 활용이 대세가 된 터라 사용 자체를 막을 수는 없는 상황”이라며 “AI가 내놓은 정보값을 두고 환자와 의사가 함께 답을 찾아 나가는 노력이 필요하다”고 말했다.
이정헌 기자 hlee@kmi 바다이야기게임장 b.co.kr
GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지