AI 인공지능이 의식을 가지게 되었다는 증거

"AI가 의식을 가지게 된다면 우리는 어떻게 알 수 있을까?"라는 질문에 과학자와 철학자들은 인간 의식 이론에 기초한 체크리스트를 제안했습니다. 2021년 구글 엔지니어 블레이크 르모인은 그가 테스트했던 챗봇 람다가 지각력이 있다고 주장해 화제에 오른 뒤 스스로 해고됐습니다. 람다 및 챗 GPT와 같은 인공 지능 시스템, 소위 대규모 언어 모델은 확실히 의식이 있는 것처럼 보일 수 있지만, 이들은 인간의 반응을 모방하기 위해 방대한 양의 텍스트에 대해 훈련을 받았습니다.

 

19명의 컴퓨터 과학자, 신경과학자, 철학자는 팀을 꾸리고 인공지능(AI)이 의식이 있음을 암시할 수는 있지만 증명할 수는 없는 속성에 대한 긴 체크리스트를 접근 방식으로 제시했습니다. 사전 출판물로 게시된 120페이지 분량의 토론 논문에서 연구원들은 인간 의식 이론을 활용하여 14가지 기준을 제안했고, 챗 GPT 지원 모델 유형을 비롯한 기존 AI 아키텍처에 이를 적용했습니다.

 

연구팀은 "누구도 의식을 갖고 있지 않을 것"이라는 결론을 내렸습니다. 그러나 샌프란시스코에 위치한 비영리 AI 안전 센터의 공동 저자 로버트 롱은 "이 연구는 점점 더 인간과 유사한 AI를 평가하기 위한 프레임워크를 제공한다"라고 말했습니다. 롱은 "이전에는 부족했던 체계적인 방법론을 도입하고 있다"라고 해석했습니다. 모나쉬 대학교의 전산 신경과학자이자 캐나다 고등 연구 연구소의 연구원 아딜 라지는 "이것은 귀중한 단계"라며, "우리 모두는 답을 찾기보다는 토론을 시작하고 있다"라고 이야기했습니다.

 

최근까지도 기계의 의식은 '엑스 마키나'와 같은 SF 영화의 소재였던 바, 롱은 "블레이크 르모인이 람다의 설득을 받고 구글에서 해고되자 변화가 일어났다"라며 르모인을 언급했습니다. 롱은 "AI가 의식이라는 인상을 줄 수 있다면, 이는 과학자와 철학자들이 시급히 고려해야 할 과제"라고 짚었습니다. 옥스퍼드대학교 인류 미래연구소의 철학자 패트릭 버틀린은 AI의 감각 테스트 방법에 관한 두 가지 워크숍을 조직했습니다.

 

캘리포니아 대학 어바인 캠퍼스의 전산 신경과학자인 공동연구자 메건 피터스는 "이 문제는 도덕적인 차원을 갖고 있다"라면서 "의식 확률을 기반으로 AI를 어떻게 치료하는가"라는 질문을 던졌습니다. 피터스는 이어 "개인적으로 이것은 나를 강권하는 이유 중 하나이며 깊고 미묘한 탐구를 위해 다양한 분야의 연구자들을 모집하고 있다"라고 밝혔습니다.

 

기계 학습을 전문으로 다루는 밀라-퀘벡 인공 지능 연구소의 요슈아 벤지오는 "무리의 첫 번째 임무 중 하나는 함정으로 가득 찬 단어인 의식을 정의하는 것"이라고 봤습니다. 많은 연구자들은 뉴욕 대학의 철학자 네드 블록이 경이로운 의식이라 불렀던 경험의 주관적인 특성, 즉 붉은색을 보거나 고통을 느끼는 것과 같은 것에 초점을 맞추기로 했습니다.

 

"알고리즘의 경이로운 의식을 조사하는 방법이 무엇일까?"라는 의문을 제기한 과학자들은 "인간의 뇌와 달리 뇌파나 MRI로 감지할 수 있는 내부 작동 신호는 제공되지 않는다"라는 결론을 도출했습니다. 텔아비브 대학교의 인지 신경과학자이자 공동 연구자인 리아드 무드릭은 "연구자들이 대신 이론 중심 접근 방식을 취했다"라는 답변을 내놨습니다.

 

무드릭은 "그들은 먼저 의식 상태의 핵심 설명자에 대한 인간 의식과 현재 이론을 채굴한 다음 이를 AI의 기본 아키텍처에서 찾았다"라고 설명했습니다. 여기에 포함되려면 이론이 신경과학에 기반을 두고 있어야 한다고 강조한 무드릭은 "지각적 함정을 사용해 의식을 조작하는 실험 중 뇌 스캔에서 얻은 데이터와 같은 경험적 증거에 의해 뒷받침되어야 한다. 또 계산이 생물학적 뉴런에 의해 수행되는지, 실리콘 칩에 의해 수행되는지에 관계없이 의식이 발생할 수 있다는 가능성도 열어 두어야 한다"라고 부연했습니다.

 

연구팀은 6가지 이론에 등급을 매겼습니다. 이중 하나는 피드백 루프를 통해 정보를 전달하는 것이 의식의 핵심이라고 제안하는 반복 처리 이론, 또 다른 이론인 글로벌 신경 작업 공간 이론은 독립적인 정보 흐름이 병목 현상을 통과해 컴퓨터 클립보드와 유사한 작업 공간에 결합될 때 의식이 발생한다는 주장입니다. 고차원 이론에서는 의식이 감각에서 받은 기본 입력을 표현하고 주석을 다는 과정을 포함한다는 내용입니다.

 

이 밖의 이론에서는 주의를 통제하는 메커니즘의 중요성과 외부 세계로부터 피드백을 받는 신체의 필요성이 강조됐으며 여기에 포함된 6개의 이론에서 연구팀은 의식 상태에 대한 14개의 지표를 추출했습니다. 연구원들은 AI 아키텍처가 확인하는 지표가 많을수록 의식을 가질 가능성이 더 높다고 추론했습니다.

 

밀라-퀘벡 인공 지능 연구소 기반 기계 학습 전문가 에릭 엘모즈니노는 달리 2와 같이 이미지 생성에 사용되는 인공지능을 포함해 다양한 아키텍처를 사용하는 여러 AI에 체크리스트를 적용했습니다. 그렇게 하기 위해서는 판단을 내리고 회색 영역을 탐색해야 했으며 많은 아키텍처들은 순환 처리 이론의 지표에 대한 상자를 선택했습니다.

 

챗 GPT의 기반이 되는 대규모 언어 모델 유형의 변형은 전역 작업 공간의 존재라는 또 다른 기능과도 유사하게 나타났습니다. 엘모즈니노는 "다양한 로봇 센서로부터 입력을 받는 구글의 PaLM-E는 '기관과 구현'이라는 기준을 충족했다. 눈을 가늘게 뜨고 보면 작업 공간 같은 것이 있다"라고 말했습니다. 시뮬레이션된 3D 공간에서 아바타를 제어하도록 훈련된 딥마인드 변환기 기반 AdA는 PaLM-E와 같은 물리적 센서가 부족하더라도 에이전시를 구현할 수 있는 자격을 갖췄습니다.

 

엘모즈니노는 "AdA는 공간 인식으로 인해 우리 표준에 따라 구현될 가능성이 가장 높았다"라며, "이러한 모든 기능을 AI로 설계하는 것은 쉽지 않을 것"이라고 봤습니다. 이어 어떠한 AI도 그렇게 하지 않은 이유에 대해서는 "작업에 유용할지 확실하지 않기 때문"이라고 덧붙였습니다.

 

연구팀에 따르면 이 체크리스트는 현재에도 진행 중인 작업이며, 이들은 이외에도 다양한 노력을 쏟아붓고 있습니다. 아딜 라지와 함께 팀을 꾸린 구성원 중 일부는 오가노이드, 동물 및 신생아에도 적용할 수 있는 더 광범위한 의식 테스트를 고안하기 위해 CIFAR 자금 지원 프로젝트를 이어가고 있습니다.

 

한 연구원은 "우리는 앞으로 몇 달 안에 출판물을 출판하기를 희망한다"라고 귀띔했습니다. 라지는 "모든 프로젝트의 문제는 현재의 이론이 인간 의식에 대한 우리의 이해에 기초하고 있다는 것"이라고 입을 열었습니다. 이어 "그러나 의식은 심지어 우리 동료 포유류에서도 다른 형태를 취할 수 있다. 우리는 박쥐가 되는 것이 어떤 것인지 전혀 모른다"라며 예시를 든 라지는 "그것은 우리가 제거할 수 없는 한계"라고 지적했습니다.