인공지능 향상의 단서…뇌 과학에서 찾았다

인간을 따라 하던 인공지능은 이미 일부 분야에서 인간을 추월하기 시작했다. 데이터 학습을 넘어 인간의 고유 영역이라 생각했던 추론과 논증에도 재능을 보이기 시작했다. 보다 ‘인간 같은 인공지능’의 탄생을 눈앞에 둔 것이다.

인간처럼 생각하는 인공지능의 비밀은 바로 ‘인간’에 있었다. 기초과학연구원(IBS) 인지 및 사회성 연구단 이창준 단장과 수리 및 계산 과학 연구단 데이터 사이언스 그룹 차미영 CI 공동 연구팀은 인공지능의 학습 능력을 높일 수 있는 단서를 인간의 뇌에서 찾았다. 인공지능 모델의 기억 및 학습 메커니즘이 인간의 뇌 기억 통합 과정과 유사성을 보인다는 것이다. 연구 결과는 세계 최고 권위의 인공지능 학술대회 ‘신경정보처리시스템학회(NeurIPS)’에 지난 12월 채택됐다.

인간의 단기 기억은 뇌의 한 부분인 해마에서 장기 기억으로 전환된다. 이 과정에서 신경세포에 있는 NMDA 수용체가 신경 연결의 강도를 조절하면서 기억 형성에 관여한다. 연구팀은 특정 조건에서만 이온의 통로가 되는 NMDA 수용체의 ‘비선형성’에 주목했다. 그리고 인간의 뇌와 마찬가지로 인공지능 모델에서도 NMDA 수용체와 비슷한 비선형성을 보인다는 점을 발견했다. 인공지능도 해마의 기억 통합 과정과 유사한 방식으로 장기 기억을 형성한다는 것이다.

(공동) 제1저자인 김동겸 박사는 “인간과 인공지능의 유사성에 대한 연구를 바탕으로 인공지능의 성능을 향상할 수 있을 것”이라고 했다. 김동겸 박사를 만나 연구 배경과 성과 등에 대해 들어봤다.

Q.자기소개 부탁드립니다.

IBS 수리 및 계산 과학 연구단 데이터 사이언스 그룹의 박사후연구원 김동겸입니다. 2022년 박사학위를 딴 뒤 연구단에 참여하게 됐습니다.

Q.데이터 사이언스 그룹은 무엇을 하나요?

데이터 사이언스는 빅데이터 속에서 숨겨진 패턴을 찾고 분석해 문제를 해결하는 기술을 의미합니다. IBS 데이터 사이언스 그룹은 그중에서도 사회적 난제를 인공지능을 활용해 해결해 보려는 다양한 연구를 진행하고 있습니다. 예를 들어 수출입 세관신고서만 보고도 위장 반입이나 원산지 조작 등 불법 행위를 적발하는 인공지능 세관원을 개발하거나 수면 시간이 지리나 문화적 영향에 따라 어떻게 달라지는지를 분석하기 위한 알고리즘을 개발하기도 했습니다. 최근에는 위성 영상으로 북한의 경제 변화를 포착하거나 기후 변화를 예측할 수 있는 기술을 개발하는 등 다양한 분야의 연구팀과 협력하며 연구를 진행하고 있습니다.

Q.이번 연구는 어떻게 시작하게 됐나요?

저는 원래 뇌 과학에 관심이 많았습니다. 그런 와중에 인공지능에 관심을 가지고 계시던 이창준 단장님 그룹의 권재 박사님을 만나게 돼 서로 아이디어를 주고받을 수 있는 기회가 생겼습니다. 이 자리에서 인공지능 모델 작동 방식이 뇌의 해마에서 이뤄지는 계산 과정과 유사하다는 기존 연구 결과에 대해 이야기하게 됐고, 이를 기반으로 인간의 뇌와 인공지능 모델 간의 상관관계에 대해 연구할 지점이 보이게 됐습니다.

Q.뇌 분야에 원래 관심이 많았나요?

박사 과정 때 인공지능의 작동 원리를 이해하려는 연구를 하는 등 뇌 과학으로 인공지능을 분석하려는 시도에 관심이 많았습니다. 특히 뇌 과학에는 fMRI와 같은 뇌 신호 데이터를 분석하는 툴이 굉장히 많은데 이러한 툴을 이용해 인공지능 모델을 분석해 보는 연구도 했었습니다. 최근에는 제가 2저자로 참여해 뇌 과학 분석툴로 인공지능을 분석한 논문이 ‘네이처 커뮤니케이션’에 게재되기도 했습니다.

Q.이번 연구에 대해 설명해 주세요.

인간의 뇌가 단기 기억을 장기 기억으로 변환하는 프로세스를 ‘기억 통합’이라고 합니다. 이러한 기억 통합이 인간뿐 아니라 인공지능 모델에서도 비슷하게 관찰됐다는 게 이번 연구의 주요 발견점입니다.

인공지능 모델은 데이터를 ‘셀프어텐션층’과 ‘피드포워드층’의 단계를 통해 처리합니다. 이전 연구를 통해 셀프어텐션층의 데이터 처리 과정이 인간 뇌의 해마가 정보를 저장하는 방식과 비슷하다는 것이 밝혀졌습니다. 이번 연구에서는 인공지능의 ‘피드포워드층’에 집중했고, 이 부분의 비선형성이 해마의 NMDA 수용체의 비선형성과 매우 비슷한 변화의 모습을 보여준다는 것을 밝혀낸 겁니다.

Q.연구 성과가 어떻게 활용될 수 있나요?

단기 기억에서 장기 기억으로 전환되는 효율을 증가시키면 적은 양의 에너지로도 장기 기억을 높일 수 있습니다. 인공지능도 마찬가지입니다. 최소한의 학습량으로도 장기 기억을 최대한 이끌어낼 수 있는 방법을 알게 된 겁니다. 앞으로 나올 ‘저비용 고성능’ 인공지능의 토대가 될 수 있을 겁니다.

Q.연구 중 어떤 것이 가장 어려웠나요?

저는 뇌 과학이나 신경과학 분야를 잘 몰랐고, 뇌 과학 분야 연구자들은 인공지능 모델에 대해 모르다 보니 용어나 모델링 등 소통에 어려움이 있었습니다. 하지만 융합 연구를 통해 제가 연구하던 분야를 더 깊이 있게 알 수 있는 기회가 되기도 했습니다. 예를 들어 인공지능 연구자들은 시냅스 연결 간의 가중치를 ‘알고리즘의 학습 과정을 통해서 변환시킨다’ 고만 이해하고 있는데, 뇌 과학 분야에서는 이러한 가중치가 왜 주어지는지, 어떤 생물학적 과정을 통해 나타나게 되는지 등을 구체적으로 연구합니다. 이러한 뇌 과학 연구들이 인공지능을 이해하는데 많은 도움이 됐습니다.

Q.앞으로 연구하고 싶은 분야가 있을까요?

인공지능의 문제점 중 하나가 민감한 정보들도 모두 기억한다는 것입니다. 하지만 사람은 모든 것을 기억하지 않고 기억을 선택할 수도 없습니다. 그래서 참전용사들이 전쟁의 기억으로 인해 외상후스트레스장애(PTSD)를 겪는 겁니다. 이렇게 비슷할 것 같은 인공지능과 인간의 ‘기억법’에도 차이가 있습니다. 그래서 거대언어모델(LLM)이 어떤 데이터를 잘 기억하려 하고, 나아가 어떻게 하면 특정 정보를 삭제할 수 있는지 등을 연구해보려 합니다.

Q.앞으로 연구에 필요한 것이 있다면?

이번 연구에서는 IBS의 GPU클러스터를 활용해서 필요한 계산을 진행했습니다. 하지만 앞으로 LLM 모델을 연구하려면 좀 더 규모가 큰 계산을 해야 하기 때문에 더 큰 장비가 필요합니다. 마침 IBS의 슈퍼컴퓨터 ‘올라프’가 2024년 3월부터 정식 운영할 계획이라고 하니 관련 장비를 사용할 수 있으면 연구에 큰 도움이 될 것 같습니다.