4차 산업혁명에 석유는 데이터라고 합니다. 그만큼 데이터가 중요한 시대가 되었다는 뜻이겠죠. 구글, 페이스북, 아마존 등 IT 기업은 소비자 데이터를 무기로 광고와 상품 판매를 통해 천문학적인 이익을 만듭니다.

데이터는 결국 알고리즘이 됩니다. 데이터에서 패턴을 찾아내서, 이를 통해 알고리즘, 수학 공식을 만듭니다. 이 수학 공식이 내린 결정을 따릅니다. 알고리즘이 복잡해지면 결국 인간 대신 결정을 내려주는 '로봇'이 되겠지요.

데이터가 만든 알고리즘이 우리 삶에 어떤 영향을 미치는지에 대한 재미있는 실험 결과가 최근 나왔습니다. 프랑스의 로봇 연구에서 로봇이 못되고 버릇없는 대답을 할 때와 친절한 답변을 할 때, 로봇이 낸 문제에 정답을 맞힐 확률이 달라진다는 사실이 나왔습니다. 못된 로봇과 퀴즈를 풀 때 성적이 더 좋았습니다. 연구자는 못된 말을 하는 로봇이 사람을 긴장하게 만들기 때문에 성적이 오른 게 아니겠냐는 해석을 덧붙였습니다. 정말 사실인지는 모르겠지만, 로봇의 태도가 사람에게 영향을 미친다는 사실만은 증명되었습니다.

로봇이 더 심각한 문제를 일으킬 때도 있습니다. 로봇이 잘못된 대답을 할 경우입니다. 이럴 때도 인간은 단호하게 로봇의 오답을 거부할 수 있을까요?

소프트뱅크 로보틱스의 로봇 모델 '나오(Nao)를 가지고 이에 대한 실험을 해 보았습니다. 실험 참가자는 주어진 선 세개 중 어떤 선이 기존에 주어진 선과 같은 선인지 선택해야 했습니다. 이 때 사람, 혹은 로봇과 함께 선택했습니다.

사람과 로봇은 일부러 오답만 말하게 프로그래밍 되어 있었습니다. 이를 통해 실험 참가자들이 로봇에 잘못된 의견과 다른 사람의 잘못된 의견에 얼마만큼 동요하는지를 알아보고자 하는 실험이었습니다. 어른들은 로봇에 오답에는 흔들리지 않았습니다. 하지만 사람의 오답에는 동요했습니다.

아이는 반대였습니다. 다수의 아이가 로봇의 잘못된 답을 따라갔습니다. 3/4의 학생이 로봇의 잘못된 답을 따라갔습니다. '연구자들은 아이들이 로봇의 사회적 압력에 굴복했다'고 말했습니다. 정말 그게 사실인지는 모릅니다. 미래 세대일수록 로봇을 더 믿기 시작한다는 '경향'은 드러나지 않았나 생각해 봅니다.

이미 알고리즘은 우리에 삶에 큰 영향을 미치고 있습니다. 유튜브 등의 온라인 매체에서는 알고리즘을 통해 게시물을 노출합니다. 그 과정이 어떤지는 아무도 알 수 없습니다. 심지어 개발자들조차 모르는 패턴을 알고리즘이 스스로 찾아냅니다. 이를 통해 노출합니다. 최근에 파이낸셜 타임스에서는 '신은 기계에 있다'면서, 누구도 이해할 수 없는 복잡한 알고리즘을 맹목적으로 믿는 사회의 세태를 경고했습니다.

언론, 교사, 정치인 등등. 사회의 사람에 대한 불신은 점차 커지고 있습니다. 대신 수식, 알고리즘을 통해 모든 문제를 해결하고자 하는 움직임도 보입니다. 하지만 최근의 연구 결과는 알고리즘은 사람보다도 더 교묘하게 인간을 망칠 수 있다고 경고합니다.

알고리즘에 지배당하지 않기 위해서도, 알고리즘에 대한 높은 이해도는 필수입니다. 로봇의 오답에 흔들려 잘못된 정답을 말하는 아이들이 이를 알려주고 있습니다. 비판적으로 로봇 속의 알고리즘을 이해하는 교육을 고민하기 시작해야 하는 이유입니다.