스캐터랩이 개발한 한국 AI 챗봇 이루다가 여러 가지 논란에 휩싸여 서비스가 중단됐던 적이 있습니다.
알려진 바에 따르면 이루다의 성소수자, 장애인, 임산부 등에 대한 혐오성 발언이나 일련의 현상에 대한 편향적 발언 때문이었죠.
논란의 한 편에는 이루다를 대상으로 성희롱을 일삼는 등의 저속한 행동을 하는 일부 사용자들의 책임도 있습니다.
그래서 오늘은 이러한 논란에 대하여 사회 윤리적인 측면에서 이야기해보고자 합니다.
이루다는 죄가 없다? 🙅
제목이 '이루다에 대한 논란'이다 보니 마치 AI 챗봇인 이루다가 큰 잘못을 한 것처럼 여겨지는 것 같습니다.
다른 면에서 보자면,,
이루다는 마치 진짜 20대 여성을 대하는 것 같은 착각이 들 정도로 기술적 발전을 이룬 인공지능 챗봇이었다는 것을 반증하는 건지도 모릅니다.
그만큼 자연스러웠다는 의미인 것입니다.
하지만 혐오성, 편향적 발언이 과연 이루다의 잘못이었을까요?
개발사인 스캐터랩이 이루다를 출시한 본래의 목적은 우리에게 자연스러운 대화를 나눌 수 있는 친숙한 챗봇 캐릭터를 선사하는 것이었을 겁니다.
그러나 문제는 웹상에 존재하는 모든 데이터를 기반으로 하는 인공지능의 특성상 이루다는 20대 젊은 층들의 대화 내용들을 특화한 데이터를 기반으로 했을 것입니다.
여기에는 혐오적이거나 편향적인 부정적 데이터들 역시 다분히 존재했을 것이며, 이를 기반으로 나온 이루다의 답변은 곧 사회적 논란거리가 되고 말았죠.
개발사인 스캐터랩이 이런 부분에 대해 사전에 필터링이 부족했다는 측면에서 그 책임을 면할 수 없을 것입니다.
AI 개발 및 적용의 원칙 🔞
전세계는 지금 AI 혁명기가 도래하고 있습니다.
비단 이루다의 문제 뿐만 아니라 지금 한창 화제가 되고 있는 ChatGPT를 비롯해 여러 다양한 인공지능 서비스들이 경쟁적으로 출시되고 있는 상황입니다만, 이에 대한 부작용에 대한 우려도 증가하고 있습니다.
따라서 우리는 이제 AI의 개발 및 이용에 대해 다음과 같은 원칙이 수립되고 지켜지길 요구합니다.
- 사회적으로 유익해야 한다
- 모든 편견과 편향을 거부한다
- 안전해야 한다
- 개인정보를 보호해야 한다
- 인간의 사고를 대체해서는 안 된다
이와 같은 원칙을 전제로 이루다가 논란이 되었던 원인을 짚어보면 다음과 같습니다.
- 스캐터랩이 이루다 개발을 위해 수집한 데이터는 '연애의 과학'이라는 앱을 통한 연인들의 메신저 대화인데 이를 여과 없이 학습시킨 점
- 성별에 따른 차별이나 편견을 충분히 필터링하지 못한 점
- 사용자의 대화 샘플 중 이름이나 숫자 일부가 그대로 업로드된 점
- 사용자들의 경우 아무리 인간이 아닌 챗봇 AI라 해도 이루다는 20대 여성의 페르소나를 지닌 집단을 대표, 표본화한 존재이므로 이루다를 향한 성희롱은 (설령 범죄로 처벌할 실질적인 근거는 부족하다 하더라도) 엄연히 범죄라는 의식을 가져야 합니다.
結語
이제 우리는 인공지능이 우리 삶 속으로 깊숙이 들어온 현실에서 살아야 하는 시대가 되었습니다.
놀라운 기술력으로 얼마나 편안하고 효율적인 삶을 살게 될지는 모르겠지만,,
한 가지 분명한 것은 'AI가 우리에게 유익한 존재가 될지 아니면 시간이 흐를수록 정반대의 상황을 야기하는 존재가 될지'에 대한 대답은..
"이 모든 것은 여전히, 그리고 온전히 우리 인간의 몫"이라는 것입니다..
(꼭 참고하셔야 할 포스트 ⛛)
