AI 윤리│공정성을 보는 세 가지 시선
과학동아 2021년 03호
문제가 된 이루다는 수많은 사람과 예측하기 어려운 방식으로 상호작용하는 사회적 대화형 AI로, 이런 AI에 대해서는 공정성에 대한 요구가 강해질 수밖에 없다.하지만 이렇게 분명히 공정해야 할 AI조차 고려해야 할 사안이 많고 복잡하다. 요구되는 공정함이 어느 정도 수준이어야 하는지 사람들 ...
문제가 된 이루다는 수많은 사람과 예측하기 어려운 방식으로 상호작용하는 사회적 대화형 AI로, 이런 AI에 대해서는 공정성에 대한 요구가 강해질 수밖에 없다.하지만 이렇게 분명히 공정해야 할 AI조차 고려해야 할 사안이 많고 복잡하다. 요구되는 공정함이 어느 정도 수준이어야 하는지 사람들 ...
개발한 대화형 AI ‘테이’의 인종 차별적 발언, 아마존 채용 AI의 성차별적 판단, 국내 대화형 AI ‘이루다’의 소수자 혐오 발언이 그 예다.단, 기술적 의미에서 AI의 편향(bias)은 조금 더 넓은 범위를 포괄한다. 최재식 KAIST AI대학원 교수는 “사회적·윤리적 이슈에 대해서만이 아니라, 사실관계를 ...
답을 내린 근거를 사람이 이해할 수 있게 알려주는 AI인 ‘설명 가능한 AI’를 적용하면, 대화형 AI가 답변을 결정한 이유를 확인하고 알고리듬에서 잘못된 부분을 개선할 수 있습니다. 대표적으로 AI 안에 설명을 위한 네트워크를 추가해 결정에 영향을 미친 요소들을 그래프로 그려 보여주는 방식이 ...
12월 출시된 대화형 인공지능(AI) ‘이루다’는 AI 윤리 논란에 불을 지폈다. 이루다가 쏟아낸 차별적 발언들은 출시 직후부터 화제를 모았고, 단 20일 만에 서비스 중단이라는 초유의 사태로 막을 내렸다. 사람들은 이 사건을 통해 AI가 인간보다도 더 극단적인 편견에 사로잡힐 수 있다는 사실을 ...
쏟아 낸 편향, 테이 ‘Hello World’2016년 3월 마이크로소프트(MS)에서 야심 차게 공개한 대화형 AI ‘테이(Tay)’는 이 말을 내뱉으며 세상에 발을 디뎠다. 하지만 16시간 만에 다시 세상에서 자취를 감췄다.테이는 소셜네트워크서비스(SNS)인 트위터 상에서 사람과의 대화를 목적으로 개발됐다. 단순히 ...
![[과학뉴스] 동성애 혐오한 이루다… 편향 없는 AI는 없다?](http://dl.dongascience.com/uploads/article/thumbnail/202102/s2021N02-img01-014.jpg)
AI) 스타트업 ‘스캐터랩’이 개발한 대화형 AI ‘이루다’가 혐오 및 개인정보 유출 논란으로 폐기 수순에 들어갔다. 스캐터랩은 이루다가 학습한 데이터베이스(DB)와 딥러닝 모델을 폐기하겠다고 1월 15일 밝혔다.이루다는 지난해 12월 23일 페이스북 메신저를 기반으로 출시된 AI 챗봇 서비스다. ...
다양한 후보군을 제시한 뒤, 기억나는 대로 전체적인 인상을 선택하게 했다. 그리고 ‘대화형 진화연산(Interactive Evolutional Computing)’ 기법을 적용해 여러 단계를 거칠수록 점점 더 목격자가 기억하는 용의자의 얼굴로 닮아가게 만들었다. 기존 몽타주 시스템이 눈코입부터 선택하게 했다면, 3D 몽타주 ...
![[Future] 미래 바꿀 7대 기술은 무엇?](http://dl.dongascience.com/uploads/article/thumbnail/201701/S201701N026_1.jpg)
수 있는 ‘에코’를 내놨다. 에코는 음악을 틀어주거나 책을 읽어주며 질문에 대답하는 대화형 가상 비서 역할도 한다. 2016년에는 음성대화 챗봇인 ‘구글 어시스턴트’가 나왔다. 챗봇은 귀와 입만 갖춘 로봇으로 텍스트나 음성기반의 언어만을 사용해 사람과 소통한다. 앞으로는 여기에 눈을 달고 ...
![[생활] 우주로 떠나는 시간여행 천문학](http://dl.dongascience.com/uploads/article/thumbnail/201507/M201507N016_0.jpg)
구성 성분의 비율, 나이, 질량 등 다양한 특성을 알아낼 수 있다.프로그래밍 언어로는 ‘대화형 데이터 언어(IDL)’를 가장 많이 쓴다. IDL에는 다양한 수학 함수와 그래픽 시각화 기능이 들어 있어 과학자들이 비교적 쉽게 데이터를 분석하고 처리할 수 있다. 고유경 서울대 물리천문학부 연구원은 ...
고객으로부터 피드백을 받아 신경망을 학습시키는 과정이다. 박실장은 “지난해 2월 대화형 내비게이션 서비스를 시작했는데, 불과 1년 만에 인식률이 65%에서 80%로 좋아졌다”고 말했다.올해에는 연구팀이 개발한 콜센터 녹취음성기가 소위 ‘대박’이 났다. 이미 1억 원 규모의 기술이전을 8건 ...