AI 공학│ 공정성 수호할 기술 도구들

과학동아 2021년 03호

영향을 감소시키는 알고리즘도 있다. 보호변수를 조절하는 것 외에도 AI의 학습 전후에 편향성을 감지하고 완화시킬 수 있는 알고리즘도 포함돼 있다.이처럼 공정한 AI를 만들기 위한 다양한 방안과 도구가 마련되고 있지만 안타깝게도 완전히, 절대적으로 공정한 AI를 개발하는 일은 사실상 ...

에디터토크 2

과학동아 2021년 03호

이영애 기자를 모셨다. 기획의도는?서동준 기자: 인공지능(AI) 이루다 사태로 촉발된 AI의 편향성과 공정성 논쟁을 윤리·기술·법 측면에서 짚고자.이영혜·박영경·이영애 기자: 외계행성 탐사 과학의 최전선을 이론·관측·탐사 측면에서 전하고자.편: 외계행성을 우주 부동산에 빗댄 아이디어가 ...

공정한 AI는 허상인가

과학동아 2021년 03호

AI가 인간보다도 더 극단적인 편견에 사로잡힐 수 있다는 사실을 피부로 느꼈다.사실 AI의 편향성 문제는 전 세계적으로 수년간 논의돼 왔다. 한국에서는 이루다를 통해 이제야 비로소 수면 위로 드러났을 뿐이다. 실제 AI는 얼마나 편향적인지, 사람이 아닌 기계에게 공정을 요구하는 것이 옳은지, 이 ...

AI 치우침을 가르치다

과학동아 2021년 03호

이유로 알고리즘의 세부 사항을 공개하라는 미국 언론의 요청을 거부하면서, 편향성이 얼마나 심각한지는 정확히 파악되지 않았다.  편향을 독려한 개발자성별 · 인종 · 종교 따라 광고 노출, 페이스북  2018년 페이스북이 시민단체인 미국시민자유연합(ACLU)으로부터 고소당했다. 페이스북의 주 ...

AI 법학 │ ‘차별하는 AI’를 극복하려면

과학동아 2021년 03호

데 도움을 줄 수 있다고 주장하기도 합니다. 초보적인 수준이지만 데이터나 알고리즘의 편향성을 감지하고 조정하는 것을 돕는 도구도 개발되고 있고요. 학생 E  선생님 말씀처럼 차별과 편견 조장이 서로 다른 문제인 것 같기는 한데 그럼 법적으로 문제될 건 없는 건가요?교사 D  사실 윤리를 ...

[과학뉴스] 동성애 혐오한 이루다… 편향 없는 AI는 없다?

과학동아 2021년 02호

여성에 대한 차별 발언을 쏟아내 사회적 논란을 일으켰다. 전문가들은 데이터에는 편향성이 존재할 수밖에 없으므로 AI 개발 과정에서 적절한 장치가 필요하다는 입장이다.  조성배 연세대 인공지능대학원장(컴퓨터과학과 교수)은 “전 세계 연구자들이 딥러닝에 쓰이는 데이터를 전처리하거나, ...

[KAIST 50년] 과학, 사회에 말 걸다

과학동아 2021년 02호

완벽히 필터링할 수 없다고 토로했는데, 우리와 같은 정책, 윤리학자들은 그럼에도 편향성을 바로잡기 위해 기술적 노력을 기울여야 한다는 입장이었다. 이런 입장 차이가 이번 이루다 사태에서 그대로 드러난 것”이라고 말했다.김 교수는 현재 한국4차산업혁명정책센터에서 이 문제에 관한 ...

[과학뉴스] 영화 속 남녀 캐릭터, 편향성 분석해보니

과학동아 2019년 11호

연구진이 컴퓨터 비전 기술을 이용해 영화 속 남녀 캐릭터 묘사의 성(性) 편향성을 정량적으로 분석하는 데 성공했다. 이병주 KAIST 문화기술대학원 교수팀은 2017~2018년 개봉한 국내외 상업 영화 40편에서 남녀 캐릭터가 각각 어떻게 묘사되는지 8가지 새로운 기준으로 분석했다. 이 교수팀은 얼마나 ...

[수학뉴스] 당신이 같은 선택을 반복하는 이유

수학동아 2019년 02호

특정한 선택을 반복했습니다. 경험이 쌓여 한 쪽으로 치우치게 된 것이죠. 이런 편향성이 생기는 과정은 오른쪽 뇌와 왼쪽 뇌의 활동 횟수의 변화로 알 수 있었습니다. 감성과 직관적인 사고에 영향을 미치는 오른쪽 뇌가 논리적인 사고와 관련된 왼쪽 뇌보다 자주 활동하면 특정한 선택을 반복하는 ...

[과학뉴스] 들쭉날쭉 CO2 농도, 범인은 농사

과학동아 2014년 12호

기후변화의 주범으로 꼽히는 대기 중 이산화탄소 농도. 하지만 이산화탄소 농도는 시간과 장소에 따라서도 큰 차이를 보인다. 특히 여름과 겨울 등 계절 ... 면적당 수확량은 늘어난다”며 “농업 기술의 발달은 대기 중 이산화탄소 농도의 계절 편향성을 더 심해지게 만들었다”고 말했다 ...