MRI로 '머리에 뜬 글'을 읽을 수 있는 AI가 등장/ 막는 방법도 검증.
AI가 사람의 마음을 읽기 시작했습니다.
오스틴에 있는 텍사스 대학에서 실시한 연구에 따르면 AI는 뇌 활동을 측정하는 MRI 기계의 데이터를 기반으로 인간의 생각을 상당히 정확하게 읽을 수 있는 AI를 개발했습니다.
그동안 뇌 속 생각을 읽는 방식은 뇌에 직접 삽입한 전극의 데이터를 이용하는 방식이 지배적이었지만 새로 개발된 AI는 두개골에 구멍을 뚫지 않고도 MRI 내부에서 사람의 생각을 읽을 수 있습니다.
전문가들은 AI가 뇌의 사생활을 침해할 가능성이 있다고 지적했지만 연구에서는 AI의 뇌 내 도청을 방지하는 매우 효과적인 방법도 발견했다고 합니다.
도대체 무엇이 뇌의 프라이버시에 대한 장벽으로 작용했을까요?
연구의 세부 사항은 2022년 9월 29일 프리프린트 서버 "bipRxiv"에 게시되었습니다.
'문장 수준'에서 사람의 생각을 읽을 수 있는 AI 개발!
한 번쯤은 다른 사람의 머리 속을 들여다보고 싶은 욕구를 경험했을 것입니다.
20년 전에는 그러한 방법을 개발하는 것은 완전한 삶의 낭비였을 것입니다.
영화 '백 투 더 퓨처'에서도 천재과학자 덕이 사고 판독기를 머리에 얹고 주인공이 하고 싶은 말을 추측하려 하지만 대실패로 끝나는 장면이 있습니다.
생각의 도청은 공상과학 세계에서 불간섭이었습니다.
그러나 최근 뇌과학과 인공지능 기술의 비약적인 발전은 공상과학 세계에서도 기피했던 '사고 판독기'를 실현하고 있습니다.
예를 들어 이전 연구에서는 피험자의 뇌에 직접 삽입한 전극을 통해 뇌세포의 전기적 활동을 측정해 피험자가 생각하고 있는 '단어'나 '풍경'을 AI가 정확히 일치시킬 수 있었습니다.
그러나 전극을 뇌에 직접 이식하는 것은 건강 위험이 높고 다용도성이 부족합니다.
그래서 이제 텍사스 대학 연구진은 의료 환경에서 사용되는 MRI 장치를 사용하여 뇌 활동을 측정함으로써 두개골에 구멍을 뚫지 않고 피험자의 생각을 읽을 수 있는 방법을 개발했습니다.
실험을 진행하는 동안 먼저 3명의 피험자에게 MRI로 뇌 활동을 측정하면서 라디오에서 나오는 사람의 목소리를 듣게 했습니다.
동시에 AI는 라디오에서 흘러나오는 문장의 의미와 그 순간 피험자의 뇌 활동 패턴과의 관계를 16시간에 걸쳐 2단계 방식으로 학습했습니다.
첫 번째 단계에서는 뇌 활동 데이터를 기반으로 피험자가 뇌에서 상상하는 장면의 유형을 넓은 틀에서 예측합니다.
재크리 비유를 사용하기 위해 뇌의 장면이 '공포' 또는 '사랑 이야기인가'라는 대략적인 가정이 이루어집니다.
2단계는 1단계의 추정치를 기반으로 하며 새로운 주제 뇌 활동 데이터를 사용하여 정보 정확도를 높입니다.
AI가 두 단계로 작동하도록 하는 목표는 단순히 뇌에서 단어의 의미를 해독하는 것이 아니라 마음에서 무슨 일이 일어나고 있는지에 대한 전체적인 이해를 얻는 것이었습니다.
(※AI는 단어의 의미의 정확성보다 의미론(전체적인 의도 또는 내용)을 우선시하도록 설계되었습니다.)
개발된 인공지능은 단순한 정보의 정확성보다는 전반적인 상황을 재현하는데 중점을 둡니다.
AI 훈련이 끝난 후 연구원들은 피험자들에게 완전히 새로운 짧은 문장을 들려주었고 AI는 MRI로 얻은 뇌 활동 데이터를 기반으로 문장의 내용을 일치시켰습니다.
결과 AI는 피험자의 뇌에 떠오른 이야기를 '상당히 잘' 맞추는데 성공했습니다.
예를 들어, 주어가 실제로 들은 문장
'나는 에어 매트리스에서 일어나 침실 창문에 얼굴을 대고 그들의 눈이 나를 바라봐 주기를 바랐지만 나는 어둠뿐이었다.'
이 경우 AI는
'나는 일어나서 창가로 가서 유리창을 열고 발끝으로 서서 안을 들여다 보았지만 아무것도 볼 수 없었다. 그런 다음 다시 올려다 보았습니다. 나는 아무것도 볼 수 없었다.'
라는 결과를 출력합니다.
세부적인 차이는 있지만, 어느 정도 정확하게 대상의 생각을 읽어낸다고 할 수 있습니다.
하지만 AI가 능숙하지 않은 분야가 있는 것처럼, 대명사는 잘하지 못해서 1인칭, 3인칭과 혼동되는 경우가 많았습니다.
예를 들어
"저는 운전면허증이 없습니다."
AI라고 불리는 뇌의 생각
"그녀는 아직 운전하는 법을 배우지 않았습니다."
이렇게 판단했습니다.
하지만 이 경우에도 주체의 뇌 속에서 운전면허 이야기가 만들어지고 있다는 큰 틀이 맞았습니다.
연구원들은 더 많은 피험자 그룹의 뇌 활동 데이터를 가지고 있으면 정확도를 향상시킬 수 있다고 말합니다.
실제로 이 연구에서 AI 학습에 사용된 데이터의 양은 3명의 피험자로부터 16시간의 뇌 활동으로 제한되었습니다.
피험자 수를 수천, 수만 명으로 확장하고 AI가 방대한 양의 뇌 활동 데이터를 학습할 수 있다면 인간의 생각을 완전히 해독하는 것이 가능할지도 모릅니다.
하지만 그럴 때 걱정되는 것은 기술 남용입니다.
실제로 이 연구는 암호 해독 기술을 검증했을 뿐만 아니라 우발적인 도청을 방해하는 가장 효과적인 방법도 발견했습니다.
'동물 이름 답하기' 과제는 AI의 사고 도청을 가장 방해할 가능성이 높다
AI가 인간의 생각을 해독하는 기술은 말할 필요도 없이 독재자들의 타깃이기도 합니다.
생각 해독기가 소형화되고 속도가 빨라져 원격으로 작동될 수 있다면 독재자는 모든 사람에게 의무화할 수 있습니다.
이에 본 연구에서는 AI에 의한 우발적인 도청을 방지하기 위한 효과적인 방법도 모색하였습니다.
실험에서는 피험자가 문장을 들으면서 동시에 동물의 수를 세거나, 동물의 이름을 대답하거나, 뇌에서 완전히 다른내용을 상상하는 등 AI의 생각 도청을 방해하기 위한 다양한 시도가 이루어졌습니다.
그 결과 예상외로 완전히 다른 것을 상상하는 것보다 동물의 이름을 답하는 작업이 AI의 우발적인 도청을 더 효과적으로 방지할 수 있음이 밝혀졌습니다.
(※ 고양이, 호랑이, 원숭이, 쥐 등 동물의 종명을 답하는 과제입니다.)
동물의 이름을 말하는 것이 가장 효과적인 이유는 확실하지 않습니다.
아마도 '이름 답하기'는 인간의 뇌에 존재하지 않는 또 다른 특수한 상황을 만들어낼 것입니다.
마찬가지로 AI의 사고 해독에 오류를 일으키는 조건을 발견할 수 있다면 인간 사고의 본질에 접근하는 새로운 발견이 이뤄질 가능성이 있습니다.
AI에 의한 사고 도청이 난무하는 디스토피아 SF를 그리고 싶다면 동물 이름 부르기 전략을 포함시켜 더욱 현실감 있게 그려낼 수 있을것입니다.
