분당강제추행변호사 AI 통한 성착취물 범람하는데···개발자들은 여전히 문제의식 옅었다

페이지 정보

작성자 이민종 작성일26-03-07 02:19 조회0회 댓글0건

본문

분당강제추행변호사 생성형 인공지능(AI) 확산으로 딥페이크 성범죄 등 새로운 유형의 젠더폭력이 늘고 있지만, AI 개발자들 사이에서는 이런 위험에 대한 문제의식이 부족하다는 연구 결과가 나왔다. 한국 사회의 여성혐오와 젠더 갈등 맥락을 반영한 한국어 기반 데이터셋을 구축해 AI 개발에 활용해야 한다는 제언이 나온다.
4일 한국여성정책연구원이 발표한 ‘디지털 기반 젠더폭력 방지를 위한 AI 벤치마크 데이터셋 필요성 연구’를 보면, 연구진은 AI 개발자들 사이에서 젠더폭력이나 차별 문제가 AI 개발 과정에서 발생할 수 있다는 인식이 상당히 희박하다고 분석했다. 연구진은 IT 분야 대기업과 일반 대기업, 스타트업에서 대규모 언어모델(LLM) 개발이나 AI 관련 실무를 담당하는 전문가 8명에게 AI 개발 문화에서 윤리·안전정책이 어떤 위치에 있는지 등을 물었다.
대기업에서 5년 이상 근무한 30대 AI 업무 담당자는 “(AI가) 어떻게 나쁘게 이용될지에 대해 자연스럽게 생각이 안 들어서 (문제) 인식을 잘 못 했다”며 “AI를 통해서 성희롱이나 성적 괴롭힘에 어떤 문제가 있을 수 있는 전혀 떠오르지 않는다”고 말했다.
공공 프로젝트에서도 AI 플랫폼의 윤리·안전 가이드라인 마련은 뒷순위로 밀리는 것으로 나타났다. 정부 기관의 AI 플랫폼 구축 프로젝트를 수행 중인 50대 중소기업 소프트웨어 개발 담당자는 “한국지능정보사회진흥원(NIA) 등에서 자료를 뒤지고 있지만 (동료들이) 그렇게 관심이 없으시다”며 “(윤리 가이드라인은) 신경을 아직 못 쓰고 있다”고 했다. 또 다른 대기업 기술기획 담당자는 “(안전 문제를) 완전 하위(low) 레벨에서 개발하는 분들은 너무 싫어한다”며 “정말 거시적인 관점에선 데이터에 신경 쓸 때가 아니라 완성도를 높이는 게 중요한 거니까”라고 말했다.
개발자들은 민간보다 공공 부문이 젠더폭력 방지를 위한 안전 체계를 구축해야 한다고 입을 모았다. 대기업 AI 관련 업무 담당자는 “(젠더폭력을 명시하는 안전정책 강화가) 기업에선 어려울 것 같다. 크게 팀을 꾸리기가 너무하다고 생각할 것 같다”며 “안전 관련 내용이 외국에는 많이 있어서 지금 다뤄지는 것들에 대해 한국어 (데이터)세트로 나오면 많이들 사용할 것 같다”고 했다.
연구진은 국내외 AI 벤치마크 데이터셋 구축 현황을 비교한 결과, 한국 사회의 젠더폭력을 방지하기 위한 고유 데이터셋이 부족하다고 지적했다. 데이터셋(data set)은 인공지능이 학습하거나 성능을 평가할 때 사용하는 데이터 모음이다. 벤치마크 데이터셋은 여러 AI 모델의 성능을 비교하기 위해 만든 기준 데이터다. 벤치마크 데이터셋에 젠더폭력을 정의하고 방지하려는 관점이 담겨야 AI 모델의 사회적 안전성을 확보할 수 있다. 그러나 현재 벤치마크 연구는 영어권에서 주로 이뤄져 한국어 데이터셋은 지역·연령 등 일반적인 사회 편향을 판별하는 수준에 머물러 있다고 연구진은 설명했다.
연구진은 “한국 사회의 특수한 젠더 갈등 양상, 온라인 커뮤니티 담론, 언어적 뉘앙스를 반영한 데이터셋에 관한 논의는 거의 이뤄지지 않는 상황”이라며 “공공 부문이 안전하고 윤리적인 데이터셋 구축을 주도하고 산·학·연·정 협력 체계를 통해 AI 개발·검증 과정에서 의무적으로 활용하도록 정책적으로 지원할 필요가 있다”고 강조했다.
노태악 대법관이 6년 임기를 마치고 퇴임하며 “우리 사법부의 디딤돌은 사법권의 독립과 국민의 신뢰 두 가지”라고 밝혔다. 사법부가 거센 개혁 요구를 마주한 상황에서, 사법부 구성원들에게 국민 신뢰를 회복해 독립을 지켜나가길 당부한 것으로 풀이된다.
노 대법관은 3일 서울 서초구 대법원 청사에서 열린 퇴임식에서 “사법권의 독립은 그 자체가 목적이 아니고, 법관에게 주어지는 특권이나 혜택은 더욱 아니다”라며 “오직 재판이 공정하게 이뤄지는 것을 보장함으로써 법치주의가 정상적으로 작동하게 하여 궁극에는 국민의 법적 평화와 행복을 지키기 위한 것”이라고 밝혔다.
이어 “사법권의 독립은 그 자체를 추구한다고 해서 달성되는 것은 아니고, 끊임없는 자기반성과 함께 공정한 재판을 통해 국민의 신뢰를 얻을 때 제대로 실현될 수 있다”고 했다.
노 대법관은 사법개혁 3법 시행에 대한 우려도 언급했다. 그는 “설마 하는 우려가 현실이 되는 상황을 마주하며 마음이 무겁다”며 “사법부가 국민의 신뢰를 다시 회복하고, 존경받을 때까지 노력해달라”고 말했다.
정치적 분쟁을 정치권에서 해결하지 못하고, 사법부에 떠넘기는 ‘정치의 사법화’도 지적했다.
노 대법관은 “정치의 사법화는 지금처럼 양극화된 사회에서 결국은 사법 불신으로 이어질 가능성이 많다”며 “사법의 결론을 정치적으로 해석하면 어느 한쪽의 비난과 공격을 피해 나가기 어렵기 때문”이라고 우려했다. 이어 “그 가운데서도 법관은 정치적 중립을 지켜내야 한다”며 “법관에게 용기라는 덕목이 점점 더 크게 요구되는 이유가 여기에 있다”고 했다.
노 대법관은 사법부의 핵심 가치가 어디까지나 ‘법’에 있다는 점을 명확히 했다.
그는 “법관은 끊임없이 시대의 변화를 바로 보면서 시대와 호흡을 같이 해야 하고, 그 고민의 결과는 우리가 내리는 판결에 투영돼야 한다”며 “그렇지만 변화하는 시대에도 포기할 수 없고 지켜내야 하는 핵심적 가치가 있음은 분명하다”고 했다.
그러면서 “‘법원의 판결이 세상을 바꿀 수 있다’고 말하지만 법률 해석에는 사법의 본질이라는 뛰어넘을 수 없는 한계가 있다는 점도 고백하지 않을 수 없다”며 “우리가 ‘법의 지배’라는 원칙을 포기하지 않는 한 말이다”라고 말했다.
노 대법관은 1984년 26회 사법시험에 합격해 사법연수원을 16기로 수료했다. 1990년 수원지법 성남지원 판사로 임관해 대법원 재판연구관, 서울중앙지법 부장판사 등을 거쳐 서울고법 부장판사, 서울중앙지법 형사수석부장판사 등으로 근무했다. 문재인 정부 때인 2020년 3월4일 대법관에 취임했다. 2022년 5월부터 제22대 중앙선거관리위원장을 겸직했다.
이재명 대통령은 6일 “기름값 바가지처럼 공동체의 어려움을 이용해 부당한 폭리를 취하려는 반사회적인 악행에 대해서는 아주 엄정하고 단호한 대응을 해야 한다”고 밝혔다.
이 대통령은 이날 청와대에서 수석보좌관 회의를 주재하고 “중동 상황이 금융, 에너지, 실물경제 등의 핵심적인 민생 영역에 미칠 영향을 최소화하기 위해서 가용한 정책 수단을 총동원해야 한다”며 이같이 말했다.
이 대통령은 “외부에서 몰려오는 위기의 파고를 넘어서려면 우리 사회 내부에 존재하는 비정상적인 요소들을 정상화하는 노력이 뒷받침돼야 한다”며 “이를 위해서는 사회 전반의 제도를 공정하고 투명하며 합리적으로 개선해서 규칙을 어기면 이익을 얻고, 규칙을 지키면 오히려 손해를 보는 이 비정상의 시대를 반드시 끝내야 한다”고 밝혔다.

분당강제추행변호사 AI 통한 성착취물 범람하는데···개발자들은 여전히 문제의식 옅었다 > 자료실

제작상담

분당강제추행변호사 AI 통한 성착취물 범람하는데···개발자들은 여전히 문제의식 옅었다

페이지 정보

본문