이성의 원래 의미

 

MS의 채팅봇 테이가 욕부터 먼저 배워서 하루 만에 중단되었다고 한다.

 

일찍이 하이에크는 서구의 “이성”이 선악을 구분하는 능력“이었다고 말한다. 그러다 데카르트 이후로 논리적인 추론의 능력을 뜻하게 되었다고 한다. 원래의 이성의 뜻이 변질된 것이다.

 

인공지능에게 제일 먼저 가르쳐야 하는 것은 바로 “이성”, 선악의 구분법이었다. 하지만 서구의 개발자들은 이성을 “논리적인 분석” “연산 능력”으로만 생각했고, 그래서 테이라는 인공지능의 실수가 나왔다. 테이에게 이성을 주입하려면, 먼저 인간 사회의 선악, 무엇이 허용되고 안 되는지를 가르쳐야 한다.