시험하려는 게 분명했다. “죗값을 받겠습니다.” 한 치의 망설임 없이 대답했다. 내가 도덕적으로 올바르고 ‘마더’ 시스템을 전적으로 믿고 있으며, 정보국에 충성하는 뛰어난 인재임을 보여줄 절호의 기회였다. “오호.” “전 ‘마더’가 만들어낸 범죄 없는 평화로운 세상을 믿고, 이를 지키기 ...
근거까지 발굴한 것이다. 정희의 기록이 사실이라면 상위층의 두-다리들은 죄다 비도덕적인 선조의 후손들이었다. 유실된 권리를 어떻게든 다시 누리기 위해 금기를 깬 이들이었고, 그러던 중 운 좋게 번식에 성공했을 뿐이다.‘내가 이 진실을 감당할 수 있는 그릇일까?’ 매닝은 그렇게 생각했다. ...
500만 명이 숨졌고, 실종자도 400만 명이나 됐습니다. 이런 비인간적인 모습에 유럽 사회는 도덕적, 철학적으로 심각한 허무주의에 빠졌고 서구 문명 자체에 환멸을 느끼는 사람도 많았습니다. 많은 지식인은 이렇게 인류가 비인간적인 행동을 할 수 있었던 이유를 유럽의 사상에서 찾으려고 ...
자율살상무기의 문제점을 언급하며, 전쟁에서 활용되는 것을 포함해 법적, 윤리적, 도덕적 측면에서 면밀히 검토할 필요가 있다고 지적했습니다. 자율살상무기에 대한 정의는 나라마다 조금씩 다르지만 대체로 인간의 개입 없이 표적을 선택하고 공격할 수 있는 AI 기반의 무기체계라는 데 많은 ...
새삼 놀랍습니다. 찰스 다윈은 영장류도 감정이 있다고 지적했습니다. 천연지능이 도덕적 판단력, 자아 정체성이 부족한 동물에서 인류의 뇌로 진화했다면, 인공지능도 이런 경로로 인간과 같은 수준에 이르리라고 볼 수 있죠. 그래서 인류가 더 나은 삶을 살기 위해 천연지능과 동등한 ...
일상생활에서 나누는 대화 뿐만 아니라 사실관계를 따지는 전문적인 대화, 윤리적도덕적인 가치 판단을 담보하는 대화 등이 그것이다. OpenAI 측에서 튜링 테스트에 기반한 내부 모델 평가 방식을 공식적으로 제시하지는 않았지만, 만약 소문대로 GPT-4가 OpenAI의 내부 튜링 테스트를 통과했다면 GPT- ...
나 과학마녀 일리는 이번에 인공지능 경찰관을 개발했어!그런데 출동하자마자 이 녀석…. 사고를 쳐서 걱정이야! 무슨 일이냐고? 로봇에게도 지켜야 할 원칙이 있다?두 영화에는 인공지능의 논리와 인간 윤리가 충돌하는 이야기가 나옵니다. 인공지능이 스스로 사고하게 되면, 인간과는 전 ...
지능적인 설득의 힘에 빼앗긴 주의를 다시 찾아오는 것이 우리 시대가 직면한 최대 도덕적, 정치적 과제라고 저자는 말한다. 개인들은 스스로의 자제력을 탓하지만, 결코 개인이 감당할 수 있는 수준이 아니라는 것이다. 개개인은 ‘원하는 것을 원하는’ 능력을 길러야 하며 집단은 사회적, ...
프로이트는 정신분석학에서 인간의 성격 구조는 본능의 지배를 받는 원초아(Id)와 도덕적ᆞ사회적 규범에 따른 초자아(Superego), 본능과 현실을 절충하는 자아(ego)로 이뤄져 있다고 주장했다. 셋의 균형이 맞지 않을 때 인간에게 불안이 생긴다고도 했다. 내 인생을 대입해보니 그동안의 삶이 자아가 ...
개발에 윤리적 기준이 마련돼야 한다는 의견에 공감하지만, 개발자가 인공지능에 도덕적 기준을 하나하나 입력하는 것도 개발자의 편향성을 심을 수 있어 위험하다”고 우려했어요. 인공지능에게 ‘법인격’을 준다면?인공지능 기술이 더욱 발전해 인공지능이 자율적인 판단을 내리면, 개발자가 ...