공정한 AI는 허상인가

과학동아 2021년 03호

대화형 인공지능(AI) ‘이루다’는 AI 윤리 논란에 불을 지폈다. 이루다가 쏟아낸 차별적 발언들은 출시 직후부터 화제를 모았고, 단 20일 만에 서비스 중단이라는 초유의 사태로 막을 내렸다. 사람들은 이 사건을 통해 AI가 인간보다도 더 극단적인 편견에 사로잡힐 수 있다는 사실을 피부로 느꼈다 ...

AI 치우침을 가르치다

과학동아 2021년 03호

등의 혐오 발언을 쏟아냈다. 이내 서비스는 중단됐다. 이 사건의 원인으로는 AI가 자신의 발언에 대한 도덕적 판단 없이, 학습한 대로 내뱉는 기술적 한계가 꼽혔다 ...

AI 공학│ 공정성 수호할 기술 도구들

과학동아 2021년 03호

차별적 발언, 아마존 채용 AI의 성차별적 판단, 국내 대화형 AI ‘이루다’의 소수자 혐오 발언이 그 예다.단, 기술적 의미에서 AI의 편향(bias)은 조금 더 넓은 범위를 포괄한다. 최재식 KAIST AI대학원 교수는 “사회적·윤리적 이슈에 대해서만이 아니라, 사실관계를 예측하는 AI가 한쪽으로 치우치는 ...

AI 윤리│공정성을 보는 세 가지 시선

과학동아 2021년 03호

중요한 의미가 있다. 우선 최근 논란이 된 ‘이루다’와 같은 AI가 아무리 성차별적 발언을 한다고 해도, AI는 상식적 의미에서 성차별적 의도나 감정을 갖지 않는다. 실은 성차별을 포함해 자신이 만드는 문장의 의미를 통상적인 의미에서 이해한다고 볼 수도 없다. 예를 들어 이루다가 산출하는 ...

이루다의 이루다 만 꿈, 대화형 AI의 미래는?

수학동아 2021년 03호

질문에 대해서는 잘 대답할 수 있었지만, 누군가 상처를 받을 수 있는 차별이나 혐오 발언 등에는 부정적인 반응을 보이기도 했습니다. AI가 학습하는 데이터의 양이 너무 많고 알고리듬이 복잡해 사람이 예측하지 못한 부분이 나타난 것이죠. 이때 선택지를 결정하거나 답을 내린 근거를 사람이 ...

[과학뉴스] 동성애 혐오한 이루다… 편향 없는 AI는 없다?

과학동아 2021년 02호

악성 이용자들에게 성적 도구 취급을 당하는 한편, 동성애와 장애인, 여성에 대한 차별 발언을 쏟아내 사회적 논란을 일으켰다. 전문가들은 데이터에는 편향성이 존재할 수밖에 없으므로 AI 개발 과정에서 적절한 장치가 필요하다는 입장이다.  조성배 연세대 인공지능대학원장(컴퓨터과학과 교수 ...

얼마나 알고 있니? 혐오표현 영역

수학동아 2021년 02호

24시간 내에 삭제하도록 했습니다. 스위스에서는 2020년 2월 성소수자에 대한 혐오발언을 처벌하는 법안이 국민투표를 통과했죠. 우리나라에서는 2020년 8월 전용기 더불어민주당 국회의원이 온라인상의 혐오표현을 처벌하는 법안을 제안했습니다. 법을 제정하는 것도 중요하지만, 혐오표현이 ...

[수학 고민 상담소 수담수담] 우리가 사는 사회 수학으로 풀어봅시다!

수학동아 2021년 02호

두 벡터를 유사하다고 볼 수 있고, 각도가 크면 관련이 적다고 볼 수 있죠. 이런 방식으로 발언의 유사도를 추정할 수 있는 겁니다. 이처럼 강 교수님은 행렬을 비롯해 여러 수학 지식을 활용해 연구합니다. 청소년에 대한 관심도 많아서 ‘친구 연결망의 크기가 중학생의 친구관계의 질에 미치는 ...

[일본유학일기] 시험공부 도와주는 도쿄대의 비밀 무기

과학동아 2020년 12호

굳이 살 필요는 없지만, 시케타이들은 꼭 사서 풀어보세요”라고 시케타이를 의식한 발언을 하는 분도 있다. 내 생각에는 적어도 시케타이의 역사가 수십 년은 됐을 거라고 본다.도쿄대는 1, 2학년 때 기초과목과 교양수업만 듣고, 3학년 때 학과가 정해진다. 3학년 때부터는 학과에 따라 시케타이가 ...

[나의 미국유학일기] 친해지는 시간이 다를 뿐 영어가 전부는 아냐~

과학동아 2020년 10호

자연스럽게 끼어들어 말할 타이밍인데 그 짧은 순간 영어로는 어떻게 말해야 할지 몰라 발언권을 놓친 경우도 허다했다. 이렇게 유학 초반에는 친구를 사귀는 데 다소 어려움이 있었다. 그래서 생각해낸 나름의 해결 방법은 2~3명 정도 소수로 대화할 때 되도록 많이 말해보는 것이었다. 노력은 ...