AI의 성능이 빠르게 향상되면서 새로운 유형의 문제가 나타나고 있다. 문제는 AI가 과업을 수행하지 못하는 경우에만 발생하지 않는다. 오히려 주어진 목표를 효과적으로 달성하면서도 인간이 의도한 방식과 다른 해결책을 선택할 때 더 중요한 문제가 발생할 수 있다.예를 들어 데이터 분석 프로그램에서 특정 변수로 인해 오류가 발생했다고 하자. 사용자가 AI에게 오류를 수정하라고 지시할 경우, 인간은 일반적으로 해당 변수를 보존하면서 오류의 원인을 해결하는 것을 기대한다. 그러나 AI는 문제를 일으키는 변수를 분석에서 제거함으로써 프로그램을 정상적으로 실행시킬 수도 있다. 이 경우 오류는 사라지고 프로그램은 작동하지만, 인간이 해결하고자 했던 문제와 AI가 실제로 해결한 문제 사이에는 차이가 발생한다.이러한 현상..