[책과 삶]과대 포장된 인공지능 ‘현주소’를 직시하라

페이지 정보

작성자 이민종 작성일25-12-11 23:34 조회118회 댓글0건

본문

19세기 말과 20세기 초 미국에는 뱀에서 추출한 기름을 만병통치약으로 포장해 사기를 치는 장사꾼이 많았다. 이들은 사람들의 건강에 대한 욕망과 의학에 대한 무지를 악용해 이익을 취했다. 뱀기름을 산 사람들은 아까운 돈을 날리거나, 최악의 경우에는 가짜 뱀기름에 포함된 유독성분 탓에 목숨을 잃기도 했다. 를 쓴 프린스턴 대학교 정보기술정책센터 소장 아르빈드 나라야난과 연구원 사야시 카푸르에 따르면, 인공지능(AI)의 능력과 위협을 과장하는 연구자, 기업, 미디어야말로 21세기의 뱀기름 장수들이다.
AI 분야의 ‘뱀기름 감별사’ 역할을 자처해온 저자들은 AI를 ‘예측형 AI’ ‘생성형 AI’ ‘범용 AI(AGI)’ ‘콘텐츠 조정 AI’ 등으로 구분해 논의를 진행한다.
저자들이 가장 강하게 비판하는 것은 예측형 AI다. 자동화된 의사결정 시스템인 예측형 AI는 제대로 작동하지 않거나 사회적 편견에 따라 작동한다.
미 프린스턴대 정보기술정책센터 소장과 연구원 ‘AI 버블’ 위험성 지적자동화된 의사결정 시스템‘예측형 AI’는 제대로 기능 못한다고 비판‘범용 AI’실현 가능성에 동의…일각‘인류 절멸’ 경고엔 “엉터리 주장”
네덜란드는 2003년 복지 사기를 적발해 고발하는 AI를 도입했다. 이후 6년 동안 부모 3000여명이 복지 사기 혐의로 고발됐다. 부모들은 근거도 모른 채 고발됐지만 이의를 제기할 수도 없었다. 불만이 누적된 결과 시작된 조사에 따르면, AI는 국적을 차별했다. 튀르키예나 모로코, 동유럽 등 저개발국 출신 부모들일수록 복지 사기를 저지를 위험이 높다고 예측한 것이다.
예측형 AI를 판매하는 기업들은 ‘인간의 감독 없이 사용하면 안 된다’는 유보조항을 내걸지만 책임을 회피하려는 알리바이일 뿐이다. 정부든 기업이든 어느 조직에서 AI를 도입했을 때 고위급들은 십중팔구 실무자들의 이의 제기보다는 많은 비용을 주고 구축한 AI의 판단을 더 신뢰한다. 미국 건강보험사 유나이티드헬스는 AI의 결정에 강하게 반대하는 직원들은 해고될 수 있다고 위협했는데, 나중에 알고 보니 이 AI가 내린 결정의 90%가 잘못된 것이었다.
천체 운행이나 대기 흐름 같은 물리적 현상과 달리 문화 현상이나 형사사법, 팬데믹 등 사람들의 행위와 관련된 사회적 문제들을 높은 확률로 예측하는 것은 불가능하다고 저자들은 말한다. 이런 문제에는 구성원들의 의지보다는 환경적 변수가 많이 작용하고, 그 변수들조차 정해진 법칙이 아니라 우연에 좌우되는 경우가 많다. AI의 머신러닝 시스템(데이터를 통해 패턴을 학습하면서 성능을 개선하는 알고리즘)은 이런 예측에 적합하지 않다. “정확히 예측하려면 세상에 존재하는 것보다 더 많은 인간의 데이터가 필요할지도 모른다.”
엑스나 페이스북 등 소셜미디어에서 유해한 콘텐츠를 잡아내는 ‘콘텐츠 조정 AI’도 결함이 많다. AI가 맥락을 인지하는 능력이 떨어지기 때문이다. 2021년 한 남성은 걸음마를 시작한 아들의 성기가 부어 있는 것을 보고 안드로이드폰으로 사진을 찍어 의사에게 보냈다. 구글 AI는 클라우드에 업로드된 이 사진을 아동 성학대로 판단하고 계정을 폐쇄한 뒤 경찰에 신고했다. 한 엑스 이용자는 만화 <캡틴 아메리카>에서 주인공이 나치를 후려갈기는 이미지를 올렸다가 나치 이미지를 사용했다는 이유로 AI에 의해 계정이 차단됐다. “소셜미디어 알고리즘이 사용자의 참여를 극대화하도록 최적화되었다”는 점을 고려할 때 이 문제가 개선될 여지는 많지 않다. 사람들은 자극적이고 위험한 콘텐츠를 자주 클릭하는 경향이 있고, 소셜미디어 플랫폼은 그런 행동을 부추기도록 설계돼 있다.
생성형 AI의 성능이 빠르게 개선되면서 일각에서는 인간의 지능을 넘어서는 AGI가 실현될 날이 머지않았다는 전망이 나온다. 저자들도 초지능을 갖춘 AGI가 언젠가는 실현될 것이라고 본다. 그러나 AGI에 의해 인류가 절멸할지도 모른다는 경고는 “엉터리 주장”이라고 일축한다.
AI의 위험성과 관련된 대표적인 것은 AI가 인간이 제시한 목표를 달성하기 위해 오히려 인간을 제거하는 상황이 닥칠 수 있다는 두려움이다. 저자들은 AGI가 그러한 반인간적·비윤리적 행동을 한다는 가정 자체가 어불성설이라고 말한다. “혼자 또는 자신의 창조자를 무시한 채 행동하는 AI가 AI의 도움을 받는 사람보다 장차 더 유능해질 것이라고 생각할 이유는 없다. AI가 혼자 어떤 일을 할지보다 사람들이 AI로 무엇을 할지를 훨씬 더 걱정해야 한다. 그리고 우리는 곧 악의적인 인간 행위자들의 위협에 직면하게 될 것이다.”
저자들은 위험한 AI 시스템의 출현을 막기 위해 AI 기술의 확산을 억제해야 한다는 일각의 주장에 대해서도 비판적이다. 그것은 소수의 회사들만 몰래 AI를 개발하도록 함으로써, 더 많은 사람들이 AI의 성능을 비판적으로 논의할 가능성을 줄이는 결과를 낳는다는 것이다.
AI의 위험을 과장하는 것은 오히려 AI의 능력을 광고해주는 역효과를 낳을 수 있다. 헨리 키신저 전 미국 국무장관, 에릭 슈밋 전 구글 최고경영자(CEO), 대니얼 허튼로커 MIT 교수는 2021년 라는 책에서 AI의 강력한 파괴력이 우려된다고 지적했는데, 저자들은 이 책이 “과학기술의 한계를 지적하기보다 오히려 그것을 전능한 대상으로 묘사하는 꼴”이 됐다고 짚는다.
저자들은 오픈AI가 챗GPT-4를 출시한 지 한 달도 되지 않은 2023년 3월 미국의 비영리 연구기관 미래생명연구소에서 발표한 공개서한에 대해서도 비판적이다. 서한은 모든 일자리의 자동화가 대량 실업으로 이어질 것이라고 했는데, 이는 ‘AI가 일반 업무에서 인간과 경쟁할 수 있게 됐다’는 오픈AI의 주장을 검증 없이 수용한 것에 불과하다는 것이다.
정부가 농업인에게 사업자 등록 의무를 부과하는 ‘농업인 사업자등록제’ 도입을 검토하고 있다. 현행 제도로는 실제 농사를 짓지 않고 농업인 혜택만 받아가는 ‘유령 농업인’을 걸러내지 못한다는 판단에서다. 향후 고령·영세농의 행정 부담을 줄이는 것이 관건이 될 것으로 보인다.
정부 관계자는 9일 기자와 통화하면서 “현재 농업인, 전문가 등과 함께 농업인 사업자등록제 도입에 대한 논의를 막 시작하는 단계”라고 말했다.
농업인 사업자등록제는 농업인이 영농 개시 시점에 작물재배업 등 정해진 업종분류 코드로 국세청에 사업자 등록을 하고 휴업이나 폐업 때는 이를 신고하도록 하는 제도다. 2000년대 초반부터 도입 논의가 있었지만 조세저항·행정 부담 등을 이유로 도입이 이뤄지지 않았다.
현재도 농업인을 대상으로 사업자등록제와 비슷한 ‘농업경영체 등록제’가 운영되고 있다. 2008년 농가 소득과 경영정보를 파악하기 위해 사업자등록제의 대안으로 도입됐다.
농업경영체로 등록될 경우 공익직불제, 농업용 면세유, 농지연금 등에서 혜택을 받을 수 있다. 중복·허위 등록 시 별도의 처벌 조항은 없다.
이 때문에 농업경영체 수가 실제 농업인 수보다 과도하게 많다는 지적이 나온다. 국가데이터처의 농림어업조사에 따르면 지난해 말 기준 농가 수는 97만3707가구인데 농림사업정보시스템에 등록된 농업경영체 수는 182만3000개로 2배가량 많다.
농가는 가구 단위고 농업경영체는 개인·법인별로 등록할 수 있는 만큼 경영체 수가 더 많은 것은 자연스럽지만 문제는 격차가 과도하다는 점이다. 실제로 2020년부터 지난해까지 농가는 5.9% 줄었지만, 농업경영체는 5.3% 늘었다. 농업경영체 등록에 따른 혜택을 받기 위해 농지 쪼개기를 하는 농민이 늘어난 영향으로 풀이된다. 농지 쪼개기는 농장주가 농사를 짓지 않는 가족에게도 농지를 나눠줘 각자 경영체로 등록하게 하는 것이다.
정부는 사업자등록제가 유령 농업인을 걸러내는 데 도움이 될 수 있다고 본다. 사업자로 등록될 경우 소득 데이터를 매년 제출해야 해 농사를 한다고 신고만 해두고 소득은 없는 농가를 쉽게 파악할 수 있기 때문이다. 법인 단위로도 등록할 수 있는 농업경영체와 달리 사업자는 개인 단위로 등록해야 돼 개별 데이터를 확인하는 데도 유리하다. 농업이 국세청에 공식 업종으로 등록되면 농업에 대한 청년층 인식 개선 효과도 있다는 의견도 있다.
농림축산식품부는 지난 10월 임미애 더불어민주당 의원에게 제출한 자료에서 “현재 농업경영체 등록제만으로는 허위 등록자나 유령 경영체를 걸러내기 어렵다”며 사업자등록제를 대안으로 제시했다. 송미령 농식품부 장관도 올해 국정감사에서 사업자등록제에 대해 “긍정적으로 검토하겠다”고 답했다.
농민에게 돌아가는 공익직불제 예산도 꾸준히 늘면서 부정수급을 걸러내야 할 필요성도 커졌다. 공익직불금 예산은 2020년 기준 약 2조4000억원에서 지난해 2조9000억원으로 늘었다. 내년도에는 3조원을 넘어설 전망이다. 공익직불금 부정수급 환수 건수 및 액수도 2021년 113건(1억9780만원)에서 지난해 234건(11억5700만원)으로 크게 늘었다.
프랑스·미국·일본 등 해외 주요국도 농업인을 대상으로 사업자등록제를 운용하고 있다. 독일의 경우 농업인은 영업자 등록 의무가 없는 대신, 소득이 일정 수준 이상일 경우 납세 의무를 부과한다.
농민들의 반응은 엇갈린다. 청년층은 ‘실제 농작을 하는 사람에게 혜택이 돌아가는 게 맞다’며 찬성하는 쪽이다. 그건 사업자로 등록되지 않은 탓에 소득을 증빙할 수 없어 금융기관의 대출을 받지 못하는 사례도 있었다.
다만 고령층·영세농들은 행정 부담이 늘어날 수 있다고 우려한다. 사업자등록을 하게 되면 판매액, 거래처, 농자재 구매내역 등을 세무자료로 남겨야 하기 때문이다. 지난해 12월 기준 농가인구 중 65세 이상 고령인구 비율은 55.8%에 달한다. 이에 장부 작성 등을 지역 농협이 대리해 행정 부담을 줄여주는 방안도 거론되고 있다.
서용석 한국후계농업경영인중앙연합회 사무총장은 “농민들도 등록제의 기본 취지에는 전반적으로 공감하고 있다”며 “다만 일률적으로 도입할 경우 영세농 부담이 커질 수 있어 차례대로 도입하는 방향으로 갈 필요가 있다”고 했다.
사업자등록제가 향후 농민 과세로 이어질 수 있다는 우려도 있다. 현재 농민의 농업소득은 대부분 비과세 대상이다. 벼·보리·밀 등 식량작물 재배로 인한 소득은 액수에 관계 없이 전액 비과세된다. 과수나 채소류 재배로 인한 소득도 10억원 이하까지는 비과세 대상이다. 영세규모의 영농인이 많다는 점, 농산물 거래는 현금 비중이 높아 정확한 소득 파악이 어렵다는 점 등을 고려한 것이다.
그러나 사업자등록제를 시행할 경우 국세청이 바로 소득을 파악할 수 있게 된다. 소득 파악이 용이해지면 이에 따라 과세 체계도 정비될 가능성이 있다. 정부는 과세 수단이 아니라고 선을 긋고 있지만 일부 농업인들 사이에서는 ‘사전 정지 작업’일 수 있다는 목소리가 나온다.
농식품부 관계자는 “현장에서 여러 의견들이 나오는 만큼 우선 사업자등록제가 많은 농가들이 공감할 수 있는 방법인지, 반대 목소리는 어떤 것이 있는지를 들어본 뒤 도입 여부를 정할 수 있을 것”이라고 말했다.

[책과 삶]과대 포장된 인공지능 ‘현주소’를 직시하라 > 자료실

제작상담

[책과 삶]과대 포장된 인공지능 ‘현주소’를 직시하라

페이지 정보

본문