top of page

챗GPT, 이단의 전략도 교묘하게 만든다(2)

현대종교 | 최윤식 박사ㅣ2024.03.29 09:00 입력


이단, 새로운 무기를 손에 쥐다


최근 들리는 소문이 하나 있다. 주요 이단과 비정통 교리 기독교 단체에서 자신의 교리를 훈련시킨 ‘생성형 AI’를 만들고 있다는 소문이다.

     

필자는 지난 호 칼럼에서 “우리에게 생성형 인공지능 기술이 강력하다면, 이단에게도 강력한 도구”라고 말했다. 또한 “인공지능이 이단의 포교전략에도 혁명을 일으킬 것”이라고 예측하면서 “인생의 깊은 고민을 하는 사람이나 믿음이 약한 성도가 이단이 배포하는 챗GPTs를 다운로드 받아서 이런저런 신앙 주제를 이야기하다가 서서히 이단에 빠지는 두려운 미래가 온다”고 경고했다.

 

필자의 우려와 경고를 담은 칼럼의 잉크가 채 마르기도 전에 이단들이 발 빠르게 움직이고 있다. 이단들이 사용할 ‘더 무서운 무기’도 만들어지고 있다. ‘챗GPT’를 만든 오픈AI와 ‘제미나이’를 만든 구글이 학습한 내용을 기반으로 새로운 ‘추론’도 할 수 있는 인공지능을 개발 중이다.

     

2023년, 오픈AI는 대규모 생성형 언어 모델LLM의 최대 약점으로 꼽힌 수학이나 과학 추론능력의 부재를 해결할 방법을 찾는 데 집중했다. 그리고 ‘Q 러닝’과 ‘스타 서치’라는 강화학습 알고리즘을 적용하는 데서 인간의 고급 추론 능력을 인공지능에 구현시킬 결정적 단서를 찾아 냈다. 그것이 바로, ‘Q*(큐스타)’라는 획기적인 알고리즘이다.

     

‘큐스타’는 챗GPT의 한계로 지적되었던 수학 문제의 일부를 추가 데이터 학습 없이 문제 이해부터 해결까지 스스로 진행했다. 기존 데이터세트에서 새로운 패턴을 스스로 찾아내고, 주어진 수학 문제를 풀 수 있는 최선의 전략도 찾아냈다. 추론 능력의 획득이다.

     

이것은 놀라움을 넘어 엄청난 성과다. 이제 인공지능이 철학자처럼 생각할 수 있는 첫 관문이 열린 셈이다. 앞으로, 이 능력이 계속 발전하면, 인공지능은 철학과 우주를 이해하는 개념을 조합해 새로운 개념을 만들어 낼 수 있게 된다. 새로운 가설을 만들어 수많은 사람을 설득할 수도 있다. 특정 지식을 전혀 다른 영역에 자유롭게 전이(transfer)시켜 새로운 개념을 생각해 내는 ‘범용 인공지능(AGI)’의 출현도 시간문제다.

     

비슷한 기간, 구글도 유사한 능력을 가진 알고리즘 개발에 성공했다. 필자가 모니터링하고 분석한 바로는 이 기능의 일부를 탑재한 차기 서비스 출시가 임박했다. ‘추론 능력’은 주어진 정보나 학습한 사실들 사이의 관계를 분석하고 이해하여, 그로부터 새로운 정보나 논리적인 결론을 도출하는 능력이다.

     

인간의 추론 능력은 크게 두 가지 유형으로 나뉜다. ‘연역적 추론(Deductive Reasoning)’과 ‘귀납적 추론(Inductive Reasoning)’이다. 추론 능력은 문제 해결, 의사 결정, 학습, 과학적 연구 등 일상 생활과 전문 분야에서 폭넓게 활용된다.

     

당연히, 교리를 가르치고 설득하는 데도 필수적 능력이다. 이론가는 추론 능력을 사용해서 자신의 가설이나 주장을 증명하고 설득한다. 추론 능력을 사용하여, 자신의 가설이나 주장에 논리적 구조를 만들고, 선택한 특정 증거와 주장을 연결한다.

     

가능한 반론이나 예외에 대응한다. 자기가 선택한 증거와 결론 사이의 간격을 교묘하게 메운다. 이는 주장이 신빙성을 갖도록 한다. 새로운 관점과 해석이 가능하게 만든다.

     

자기의 가설이나 주장의 적용 범위를 확장한다. 이런 ‘추론 능력’이 과학적 연구, 학문적 논의, 일상적 의사결정에서 사용될 때는 ‘더 나은 미래’를 만드는 강력한 도구가 된다.

     

하지만, 이런 능력을 거짓 선동가, 이단, 비정통 기독교 단체가 사용하면 수많은 사람을 치명적 위험에 빠뜨릴 수 있다. 문제는 곧 등장할 ‘추론 기능’을 탑재한 대규모 생성형 언어 모델(LLM) 서비스를 (API 기능을 활용하여) 외부 이단 문서 자료나 편향되고​ 왜곡된 성경 지식과 정보를 학습시킨 소규모 언어 모델(sLLM)과 연결한다면, 이단의 이론을 지지하는 추론 작업 수행이 가능해 진다.

     

그 결과, 이단 정보를 매우 설득력 있게 전달하여 사용자를 교묘하게 속이는 일이 벌어질 수 있다. 이런 인공지능이 ‘신앙 상담’이라는 명분으로 교회 안에 부지불식 간에 깊숙이 침투할 수 있다.

     

기독교 신학의 역사는 교묘하고 혹세무민 하는 이단들과 목숨을 건 전쟁의 연속이었다. 과거의 교리 전쟁, 진리수호 전쟁, 영적 전쟁 등 그 어느 하나 쉬운 것이 없었다.

     

하지만, 곧 다가올 새로운 전쟁은 과거의 치열함과 교묘함을 몇 배는 뛰어넘을 것이다. 다시, 질문을 던진다. “전통적인 교회는 새롭고 강력한 무기를 손에 쥔 도전적인 이단의 공격에 준비가 되어 있을까?”

 

     

 

     

​- Copyrights ⓒ 월간 「현대종교」 허락없이 무단 전재 및 재배포 금지 - ​​


[출처] - 현대종교


- 부산성시화이단상담소 문의 및 제보 0505-944-2580 -

조회수 5회댓글 0개

コメント


bottom of page