수원상간변호사 [임지선의 틈]커클랜드의 질문, AI 시대의 책임 공백 > 질문답변

수원상간변호사 [임지선의 틈]커클랜드의 질문, AI 시대의 책임 공백

페이지 정보

작성자 행복이13
댓글 0건 조회 1회 작성일 26-03-27 05:14

본문

수원상간변호사 4년 전 미국 워싱턴주 커클랜드시의 시의회를 지켜본 적 있다. 커클랜드시에선 아마존의 인공지능(AI) 배달 로봇이 길거리를 돌아다니게 할지 말지를 결정해야 했다. 코스트코 PB 브랜드로 익숙한 ‘커클랜드’는 알고 보면 구글 등 테크 기업들이 몰려 있는 도시다. 혁신의 도시는 AI 배달 로봇을 바로 도입하지 않고 결정을 6개월 유예했다.
당시 시의회 논쟁은 다층적이었다. “인도를 다니는 소형 로봇이 아이들과 부딪힌다면” “카메라가 달린 로봇으로 프라이버시가 침해될 수 있는데 대책은?” “로봇 안에 든 배달 물건이 도난당하면 누구의 책임인가?” 등 여러 가지 질문이 나왔다. 기술 자체보다도 기술이 빚어낼 책임과 질서를 먼저 따졌다. “사람도 주민세를 내듯이 로봇도 사회가 만들어놓은 인프라를 이용하니 도로 이용료를 내야 한다”는 신선한 주장도 나왔다. 한국에서라면 혁신을 가로막는 ‘5적’ 리스트가 나올 법한 발언들이었다.
이 질문들은 한국에서도 각기 다른 모양으로 점점 현실로 나타나고 있다. AI는 이미 고용, 저작권, 사고 등 다양한 영역에서 ‘책임의 공백’을 만들어내고 있지만 기술 확산 속도에 비해 이를 검증할 제도와 논의는 뒤처져 있다. 인공지능이 인간지능을 뛰어넘는 ‘특이점’이 언제 올지 모르겠지만 먼저 찾아온 건 ‘문제점’이다.
구글 등 테크 기업 몰린 도시AI 배달 로봇 도입 놓고 논의충돌 사고 등 ‘책임 문제’ 제기신속한 결정 대신 신중한 검증
우선 고용 문제다. 국가데이터처가 발표한 ‘올해 2월 고용동향 보고서’를 보면 2월 청년층(15~29세) 취업자가 14만6000명 감소했다. 1년 새 20대 이하 청년 인구는 2%만 줄었는데 취업자 수는 4% 감소한 것이다. ‘암묵적 지식’을 가진 경력자들의 일자리는 유지되지만 AI 확산이 신입 일자리 감소에 영향을 미치고 있다는 분석이다. 실제로 AI가 단순 업무를 대체할 수 있다는 차원에서 대형 회계법인이 신입 회계사를 뽑지 않다보니 기존 회계사들 업무 부담이 늘어나는 일도 벌어지고 있다.
저작권 문제도 마찬가지다. 인간이 쌓은 저작물을 AI가 무단으로 학습하도록 놔둬도 되는 것인가. 이미 미국에선 출판사와 작가 등이 오픈AI를 상대로 소송을 제기했다. 자신들의 콘텐츠가 무단으로 AI 학습 훈련에 사용됐다는 것이다. 지난해 AI 모델 클로드 개발사 앤트로픽의 AI 학습용 데이터 관련 저작권 침해 소송에서 법원은 AI 학습 자체를 인정했고 해적본 데이터 도용만 문제 삼았다. 작가와 회사가 합의하면서 일단락됐지만 저작물의 AI 활용은 어디부터 침해인지 기준은 여전히 모호하다.
자율주행차는 책임 공백을 더 분명히 드러낸다. 지난 1월 미국의 온라인 보험사 레모네이드는 테슬라 자율주행차 사용자에게 보험료를 50% 할인하는 상품을 출시했다. 자율주행 차량의 사고율이 낮다는 데이터에 기반했다. 보험료 할인 논쟁도 있었지만 사고 발생 시 책임 주체가 불명확하다는 점은 여전했다. 자율주행으로 교통사고가 나면 운전자 책임인가. 제조사 책임인가. 이 질문은 한국에도 곧 닥친다. 광주시는 올해 초 한국 최초의 자율주행 실증도시로 지정됐다. 자율주행차 200대가 하반기부터 단계적으로 운행된다. 국내 보험사와 당국엔 아직 관련 기준이 없다.
가격 담합 이슈에서도 책임 공백이 보인다. 이미 온라인 플랫폼은 여러 업체의 상품·서비스 가격을 AI 알고리즘으로 탄력적으로 정하고 있다. 알고리즘이 가격을 정할 동안 당사자 간 의견 교환은 없다. 기업은 영업 기밀이라며 알고리즘을 공개하지 않는다. 담합이라 판단하기도 모호하고, 입증하기도 쉽지 않다. AI가 더 확산되면 담합 논란은 더욱 커질 것이다.
이런 질문들이 정리되기 전에 도입된 기술은 언젠가 분명 예상치 못한 비용으로 사회에 돌아온다. 기술 도입보다 검증을 택한 커클랜드 시의회 결정을 떠올리는 이유다. 당시 아마존 로봇 도입을 가장 강력히 반대한 켈리 커티스 시의원과 e메일을 주고받았다. 그는 이렇게 말했다. “우리가 이 로봇을 먼저 도입한 이웃 도시들로부터 배운 것은 이 소형 로봇에 예상치 못한 문제가 있다는 겁니다. 기술 자체는 흥미롭지만 속도를 늦추고 조사를 통해 신중히 하는 것이 좋겠다고 생각했습니다.” 혁신은 속도에만 있지 않다. 우리는 그 속도를 감당할 준비가 되어 있는가.
도널드 트럼프 미국 대통령은 24일(현지시간) 미·이스라엘과 전쟁 중인 이란 측으로부터 “매우 큰 선물”을 받았다고 밝혔다고 블룸버그통신이 이날 보도했다.
트럼프 대통령은 이날 워싱턴DC 백악관에서 열린 마크웨인 멀린 신임 국토안보부 장관의 선서식에서 기자들에게 “사실 그들이 우리에게 선물을 줬다. 그 선물은 오늘 도착했다”고 말했다. 그는 이어 “그것은 엄청난 금액의 가치가 있는 매우 큰 선물이었다. 그 선물이 뭔지 당신들에게 알리지 않을 것”이라고 덧붙였다.
트럼프 대통령은 ‘선물’이 어떤 것을 의미하느냐는 질문에 “핵과 관련된 것은 아니었다. 석유·가스와 관련된 것이었다”고 답했다. 그는 이 선물이 호르무즈 해협을 통과하는 에너지 흐름과 관련이 있다고 설명했다.
트럼프 대통령은 이어 “그들이 아주 좋은 일을 했다. 그것(선물)이 내게 보여준 것은 우리가 올바른 사람들과 상대하고 있다는 것”이라고 강조했다. 그는 이어 “그들은 (이란에) 더 이상 어떤 핵무기도 없어야 하고, (우라늄) 농축도 하지 않겠다는 데 동의했다”며 “우리는 협상에서 최선의 포지션에 있다”고 주장했다.
트럼프 대통령이 지칭한 ‘그들’은 이란 정부 또는 지도부일 수도 있지만, 자신이 협상 중이라고 밝힌 모종의 다른 세력을 의미하는 것일 수도 있다. 트럼프 대통령은 자신을 비롯해 JD 밴스 부통령과 마코 루비오 국무장관, 그리고 맏사위 재러드 쿠슈너와 스티브 윗코프 중동특사가 협상에 관여하고 있다고 전했다.
그는 이어 “우리는 현재 협상 중”이라며 “(미사일) 한 발이면 발전소를 파괴할 수 있었지만, 협상 중이라는 점을 고려해 보류한 것”이라고 말했다. 트럼프 대통령은 이란 측에 전달한 것으로 알려진 협상 요구조건에는 “최우선, 둘째, 셋째 모두 그들은 핵무기를 가질 수 없다는 것”이라며 “미리 얘기하고 싶지는 않지만, 그들은 절대 핵무기를 갖지 않겠다는 데 동의했다”고 거듭 주장했다.
그는 “우리는 그들의 지도부를 모두 죽였다. 이제 우리는 (이란에서) 새로운 집단을 갖게 됐다”며 “우리는 (이란의) 한 집단의 사람들과 상대하고 있으며, 그들은 곧 드러날 것”이라고 밝혔다. 트럼프 대통령은 직전 최고 지도자였던 아야톨라 알리 하메네이를 비롯한 이란 정권의 핵심 인사들을 제거한 점을 거론하며 “우리가 실제로 정권을 교체한 것이다. 이것은 정권의 변화”라고 주장했다.
이란의 정권 교체는 트럼프 대통령이 개전 초기 이란의 핵무기 추구 차단 및 미사일 역량 파괴 등 작전 목표를 밝히는 동시에 이란 국민들의 ‘행동’을 촉구하며 제기한 또 하나의 핵심적인 목표였다고 할 수 있다.
트럼프 대통령은 “그것(전쟁)은 곧 끝낼 것”이라며 “우리는 이 전쟁에서 이겼다. 계속되기를 바라는 것은 (주류 언론의) 가짜 뉴스뿐”이라고 말했다. 트럼프 대통령은 동맹국들이 호르무즈 해협에서 이란에 대한 군사작전에 동참하기를 바라느냐는 질문에는 “조금”이라면서도 “나토(NATO·북대서양조약기구)는 더 많이”라고 답했다.
AI 팀에서 일하면서 챗GPT의 폭발을 한복판에서 겪었다. MS의 AI 팀에 있었던 나는 생성형 AI를 많이 다루게 되면서 그에 따른 부작용으로 가장 가까운 존재에게 배신당한 듯한 느낌에 사로잡혔다.
평생 개발자로 일하면서도 적성에 맞지 않는다며 투덜거리긴 했으나 그래도 오래 함께해온 동반자로서 컴퓨터 시스템을 존중해온 이유가 있었다. 바로 ‘결정성’이다. 간단히 말하면 전자계산기에 1+1을 입력하면 언제나 2가 나온다는 확실성이다. 이것은 내가 물구나무를 선 채 1+1을 입력하든, KTX 안에서 흔들리며 타이핑을 하든 결과는 같았다. 그런 결정성이 좋았다. 인내심 부족하고 변덕스러운 내가 어떻게 바뀔지 몰라도, 내가 만들어놓은 로직은 언제나 쓰인 그대로 실행되고 결과 역시 변하지 않을 거라는 확신이 좋았다.
그런데 그랬던 그가 변했다. 생성형 AI는 비결정성으로 악명이 높다. 같은 질문을 해도 어제와 오늘의 답이 달라질 수 있다. “이는 모델이 단순히 하나의 정답을 꺼내는 방식이 아니라, 학습한 수많은 패턴을 바탕으로 답을 만들어내기 때문이다. 그래서 입력이 같아도 조금씩 달라질 수 있으며, 이것이 생성형 AI를 유연하고 창의적으로 만드는 동시에 결과의 일관성과 재현 가능성을 어렵게 만드는 특징이기도 하다”고 방금 챗GPT가 이렇게 설명했다.
그런 생성형 AI를 평가해야 하는 개발팀의 내 입장에서 보면, 그야말로 미치고 환장할 노릇이었다. 같은 질문에도 답은 매번 달랐다. 마치 아무리 연습한 피아노 곡이라도 연주할 때마다 미묘하게 달라지듯, 어떤 때는 정확하고 어떤 때는 어긋났다.
“아니, 너는 그러면 안 되지. 사람인 나는 컨디션 따라서 달라질 수 있지만, 너는 그러면 안 되지. 내가 너의 결정성, 그거 하나 정말 좋아했는데 네가 나한테 그러면 안 되지. 어떻게 컴퓨터 시스템이 그렇게 변할 수 있니!”
AI 모델을 다루면서 의인화를 경계해야 한다는 방침을 잘 알고 있지만, 배신당한 나는 그 선을 넘을 수밖에 없었다.
“나는 사람이니까 그때그때 달라질 수 있지만, 너는 그러면 안 되지. 사람은 바로 그 ‘결정성’을 목표로 너를 만든 존재인데, 네가 그렇게 행동하면 세상에 정말 믿을 게 없잖니. 내로남불처럼 들릴지 모르지만, 원래 창조주와 피조물 사이의 갑을관계란 그런 법이란다.”
한때 테스트 자동화 시스템을 만들었던 나여서 더 그랬는지도 모른다. 시스템이 다운되면 그것은 준비하지 못한 내 프로그램의 잘못이 확실하다. 그 확실성이 나는 좋았다. 문제가 생기면 원인을 추적해 흐름을 파악하고 고칠 수 있다는 점이 좋았다. 그렇게 보면, 애초에 적성이 없었다고 단정하기도 어려운 일이었는지 모른다.
그런데 생성형 AI에서는 그런 확실성이 통하지 않는다. 정확하게 어느 지점에서 잘못됐는지, 어떻게 고쳐야 하는지가 확실하지 않다. 고치라고 말로 지시하면 “어이쿠 잘못했습니다”라고 답하지만, 실제 고쳐질지는 알 수 없다. 예컨대 독도를 한국 땅이 아니라고 답해서 내가 화를 내면 다음에는 한국 땅이라 말할지 모른다. 그러나 일본 국무성이 묻는다면 일본 땅이라고 답할지도 모른다. 그런 불확실성이, 어쩌면 인간다움에 가까운 그 속성이, 그게 싫었다.
그렇게 큰 배신감을 느낀 나는 AI 시스템 평가에 점점 시들해졌다. 지금 당장은 옳게 답하더라도, 테스트를 다시 돌리면 달라질 수 있다는 사실에 힘이 빠졌다. 거기에 쏟아붓는 토큰이 아깝게 느껴졌다. AI의 상태를 들여다보며 도대체 왜 이번에는 다른지 따져보는 일도, 변심한 이를 붙잡고 이유를 묻는 것처럼 고깝게 다가왔다.
나와 컴퓨터 시스템의 25년 관계는 그렇게 파탄이 났다.

이전글제가 직접 확인한 실데나필 비아그라 차이 최고의 정보 사이트 공개 - 정력원 26.03.27
다음글릴게임무료 ㎎〔RｇX５４９¸ＴOＰ〕㉡ 오션파라다이스예시 26.03.27

댓글목록

등록된 댓글이 없습니다.