수원성범죄변호사 [책과 삶]과대 포장된 인공지능 ‘현주소’를 직시하라 > 자유게시판

소통공간

수원성범죄변호사 [책과 삶]과대 포장된 인공지능 ‘현주소’를 직시하라

이길중
쪽지보내기 메일보내기 자기소개 아이디로 검색 전체게시물

25-12-15
0 회

수원성범죄변호사 19세기 말과 20세기 초 미국에는 뱀에서 추출한 기름을 만병통치약으로 포장해 사기를 치는 장사꾼이 많았다. 이들은 사람들의 건강에 대한 욕망과 의학에 대한 무지를 악용해 이익을 취했다. 뱀기름을 산 사람들은 아까운 돈을 날리거나, 최악의 경우에는 가짜 뱀기름에 포함된 유독성분 탓에 목숨을 잃기도 했다. 를 쓴 프린스턴 대학교 정보기술정책센터 소장 아르빈드 나라야난과 연구원 사야시 카푸르에 따르면, 인공지능(AI)의 능력과 위협을 과장하는 연구자, 기업, 미디어야말로 21세기의 뱀기름 장수들이다.
AI 분야의 ‘뱀기름 감별사’ 역할을 자처해온 저자들은 AI를 ‘예측형 AI’ ‘생성형 AI’ ‘범용 AI(AGI)’ ‘콘텐츠 조정 AI’ 등으로 구분해 논의를 진행한다.
저자들이 가장 강하게 비판하는 것은 예측형 AI다. 자동화된 의사결정 시스템인 예측형 AI는 제대로 작동하지 않거나 사회적 편견에 따라 작동한다.
미 프린스턴대 정보기술정책센터 소장과 연구원 ‘AI 버블’ 위험성 지적자동화된 의사결정 시스템‘예측형 AI’는 제대로 기능 못한다고 비판‘범용 AI’실현 가능성에 동의…일각‘인류 절멸’ 경고엔 “엉터리 주장”
네덜란드는 2003년 복지 사기를 적발해 고발하는 AI를 도입했다. 이후 6년 동안 부모 3000여명이 복지 사기 혐의로 고발됐다. 부모들은 근거도 모른 채 고발됐지만 이의를 제기할 수도 없었다. 불만이 누적된 결과 시작된 조사에 따르면, AI는 국적을 차별했다. 튀르키예나 모로코, 동유럽 등 저개발국 출신 부모들일수록 복지 사기를 저지를 위험이 높다고 예측한 것이다.
예측형 AI를 판매하는 기업들은 ‘인간의 감독 없이 사용하면 안 된다’는 유보조항을 내걸지만 책임을 회피하려는 알리바이일 뿐이다. 정부든 기업이든 어느 조직에서 AI를 도입했을 때 고위급들은 십중팔구 실무자들의 이의 제기보다는 많은 비용을 주고 구축한 AI의 판단을 더 신뢰한다. 미국 건강보험사 유나이티드헬스는 AI의 결정에 강하게 반대하는 직원들은 해고될 수 있다고 위협했는데, 나중에 알고 보니 이 AI가 내린 결정의 90%가 잘못된 것이었다.
천체 운행이나 대기 흐름 같은 물리적 현상과 달리 문화 현상이나 형사사법, 팬데믹 등 사람들의 행위와 관련된 사회적 문제들을 높은 확률로 예측하는 것은 불가능하다고 저자들은 말한다. 이런 문제에는 구성원들의 의지보다는 환경적 변수가 많이 작용하고, 그 변수들조차 정해진 법칙이 아니라 우연에 좌우되는 경우가 많다. AI의 머신러닝 시스템(데이터를 통해 패턴을 학습하면서 성능을 개선하는 알고리즘)은 이런 예측에 적합하지 않다. “정확히 예측하려면 세상에 존재하는 것보다 더 많은 인간의 데이터가 필요할지도 모른다.”
엑스나 페이스북 등 소셜미디어에서 유해한 콘텐츠를 잡아내는 ‘콘텐츠 조정 AI’도 결함이 많다. AI가 맥락을 인지하는 능력이 떨어지기 때문이다. 2021년 한 남성은 걸음마를 시작한 아들의 성기가 부어 있는 것을 보고 안드로이드폰으로 사진을 찍어 의사에게 보냈다. 구글 AI는 클라우드에 업로드된 이 사진을 아동 성학대로 판단하고 계정을 폐쇄한 뒤 경찰에 신고했다. 한 엑스 이용자는 만화 <캡틴 아메리카>에서 주인공이 나치를 후려갈기는 이미지를 올렸다가 나치 이미지를 사용했다는 이유로 AI에 의해 계정이 차단됐다. “소셜미디어 알고리즘이 사용자의 참여를 극대화하도록 최적화되었다”는 점을 고려할 때 이 문제가 개선될 여지는 많지 않다. 사람들은 자극적이고 위험한 콘텐츠를 자주 클릭하는 경향이 있고, 소셜미디어 플랫폼은 그런 행동을 부추기도록 설계돼 있다.
생성형 AI의 성능이 빠르게 개선되면서 일각에서는 인간의 지능을 넘어서는 AGI가 실현될 날이 머지않았다는 전망이 나온다. 저자들도 초지능을 갖춘 AGI가 언젠가는 실현될 것이라고 본다. 그러나 AGI에 의해 인류가 절멸할지도 모른다는 경고는 “엉터리 주장”이라고 일축한다.
AI의 위험성과 관련된 대표적인 것은 AI가 인간이 제시한 목표를 달성하기 위해 오히려 인간을 제거하는 상황이 닥칠 수 있다는 두려움이다. 저자들은 AGI가 그러한 반인간적·비윤리적 행동을 한다는 가정 자체가 어불성설이라고 말한다. “혼자 또는 자신의 창조자를 무시한 채 행동하는 AI가 AI의 도움을 받는 사람보다 장차 더 유능해질 것이라고 생각할 이유는 없다. AI가 혼자 어떤 일을 할지보다 사람들이 AI로 무엇을 할지를 훨씬 더 걱정해야 한다. 그리고 우리는 곧 악의적인 인간 행위자들의 위협에 직면하게 될 것이다.”
저자들은 위험한 AI 시스템의 출현을 막기 위해 AI 기술의 확산을 억제해야 한다는 일각의 주장에 대해서도 비판적이다. 그것은 소수의 회사들만 몰래 AI를 개발하도록 함으로써, 더 많은 사람들이 AI의 성능을 비판적으로 논의할 가능성을 줄이는 결과를 낳는다는 것이다.
AI의 위험을 과장하는 것은 오히려 AI의 능력을 광고해주는 역효과를 낳을 수 있다. 헨리 키신저 전 미국 국무장관, 에릭 슈밋 전 구글 최고경영자(CEO), 대니얼 허튼로커 MIT 교수는 2021년 라는 책에서 AI의 강력한 파괴력이 우려된다고 지적했는데, 저자들은 이 책이 “과학기술의 한계를 지적하기보다 오히려 그것을 전능한 대상으로 묘사하는 꼴”이 됐다고 짚는다.
저자들은 오픈AI가 챗GPT-4를 출시한 지 한 달도 되지 않은 2023년 3월 미국의 비영리 연구기관 미래생명연구소에서 발표한 공개서한에 대해서도 비판적이다. 서한은 모든 일자리의 자동화가 대량 실업으로 이어질 것이라고 했는데, 이는 ‘AI가 일반 업무에서 인간과 경쟁할 수 있게 됐다’는 오픈AI의 주장을 검증 없이 수용한 것에 불과하다는 것이다.
대장동 개발비리 사건 1심 선고에 대한 검찰의 항소 포기에 반발하며 항의 성명에 이름을 올린 김창진 부산지검장·박현철 광주지검장·박혁수 대구지검장이 11일 법무연수원 연구위원으로 전보 발령됐다. 김 지검장과 박현철 지검장은 인사 발표 직후 사의를 밝혔다. 검찰 내부망에서 지휘부 결정을 강하게 비판한 정유미 법무연수원 연구위원은 고검검사(차장·부장검사)로 사실상 강등됐다.
법무부는 이날 대검검사(검사장)급 검사 4명에 대한 전보 인사, 4명에 대한 신규 보임 인사를 발표했다. 인사 시행일은 오는 15일이다.
김 지검장, 박현철·박혁수 지검장은 나란히 한직으로 분류되는 법무연수원 연구위원으로 발령 났다. 이들은 앞서 검찰 지휘부가 대장동 사건 1심 판결에 대한 항소를 포기하자 경위 설명을 요청하는 검사장 집단 성명에 이름을 올렸다. 당시 박재억 전 수원지검장 등 18명의 검사장은 검찰 내부 게시판에 ‘검찰총장 권한대행께 추가 설명을 요청드립니다’라는 제목의 입장문을 올렸다.
김 지검장과 박현철 지검장은 바로 사의를 표명했다. 김 지검장은 이날 검찰 게시판에 “검사가 결정하는 업무에는 늘 외압이 따르기 마련”이라며 “검사는 절대로 외압에 굴복하고 이용당해서는 안 된다. 정의로워야 하고 정의롭게 보여야 한다. 그것을 제대로 하라고 신분보장을 받는다”고 썼다. 박 지검장도 “이제 이 불민한 검사장이 마지막 소임마저 다 마치지 못한 채, 형사사법 체계 붕괴의 격랑 속에서 묵묵히 자리를 지키고 계신 검찰 가족들께 무거운 짐만 남기고 떠나게 됐다”면서 “검찰이 끝까지 국민의 인권을 지키고, 범죄에 단호히 대응하며, 정의를 실현하는 든든한 기둥으로 남아주기를”이라고 적었다.
정유미 연구위원은 대전고검 검사로 보직이 변경됐다. 검사장급인 연구위원에서 차장·부장검사 보직으로 이동한 사실상 강등이다. 정 위원은 앞서 검찰청 폐지 정부조직법 개정 등 이재명 정부의 검찰개혁을 비판했다. 항소 포기 항의 검사장 성명에도 이름을 올리고, 법무부와 대검 지휘부에 강하게 항의했다. 검사장급이 고검검사로 보직 변경된 것은 2007년 3월 법무연수원 기획부장에서 서울고검 검사로 배치된 권태호 전 검사장에 이어 두 번째다. 정 위원은 자신에 대한 인사가 부당하다며 법적 대응을 검토하겠다고 밝혔다.
법무부는 보도자료를 통해 “업무 수행 등에 있어 검찰의 정치적 중립성·공정성에 대한 오해를 불러일으키고, 부적절한 표현으로 내부 구성원들을 반복적으로 비난해 조직의 명예와 신뢰를 실추시킨 대검검사급 검사를 고검검사로 발령했다”고 밝혔다. 또 이번 인사의 목적이 “검찰 조직의 기강 확립 및 분위기 쇄신을 위한 것”이라고 했다. 집단 반발을 주도한 간부들에 대한 징계성 인사로 풀이된다.
박재억 전 지검장이 사의를 밝힌 뒤 공석이 된 수원지검장에는 김봉현 광주고검 검사가 임명됐다. 김 신임 지검장은 앞으로 이재명 대통령의 쌍방울 대북송금 의혹 사건의 1심 재판 공소 유지와 관련 사건 수사를 지휘하게 된다. 김 지검장은 서울동부지검 사이버수사부장, 대검찰청 형사1과장 등을 지냈다.
대구지검장에는 정지영 고양지청장, 부산지검장에는 김남순 부산고검 울산지부 검사, 광주지검장에는 김종우 부천지청장이 각각 승진 임명됐다.