AI는 거짓말??

현재 유행하는 AI인 대규모 언어 모델(LLM)이 사실은 인터넷에서 발견한 언어 패턴에 기반하여 다음 올 단어를 확률적으로 찾는 프로그램에 불과하며, 그 적용 영역도 언어에 국한되어 있으며, 일반적인 지능과는 거리가 멀다고 주장하는 동영상이다.

 

https://www.youtube.com/watch?v=nGIpdiQrFDU

 

기술적으로 보면 다 맞는 말이다.

실질적인 지능이 아니라 단지 다음 단어가 무엇일지 확률적으로 추측하는 프로그램일 뿐이다.

그런데, 이러한 컴퓨터의 단순한 확률 계산이 현실 세계에서  인간에게 영향을 미치고,

여러 문서 작업이나 소프트웨어 개발등 경제적 효과가 있는 작업 뿐만 아니라

맞춤형 자기 소개서 양산으로 취업 시장에 혼동을 일으키고, (https://kmuh.tistory.com/154)

가짜 뉴스 양산으로 여론과 선거 결과를 바꿀 가능성도 그 어느 때보다 커지는 등 사회적으로 영향을 미치고 있다는 점이 문제이다.

 

그렇게 따지면 내연기관 차량도 기술적으로는 단순히 탄화수소 물질의 잘 제어된 연소 반응일 뿐이다.

그러한 작은 연소 반응이 이동 수단으로 작용하면서, 물리적 거리를 좁히고, 사회적 연계를 촉진하며, 현실 세계에서 많은 변화를 이끌어 내면서 자본주의 경제의 물류 이동이라는 거대한 사회 구성의 축을 담당한다.

 

대규모 언어 모델도 기술적으로는 단순히 다음 단어를 찾아내는 확률 계산 프로그램일 뿐이다.

그런데, 인간이 언어를 통해서 소통하고, 이러한 언어 소통이 사회 구성에 큰 역할을 하다보니, 컴퓨터가 확률적으로나마 언어를 구사하기 시작하면 사회적으로 어떤 영향을 미칠 지 아직 아무도 모른다는 게 문제이다.

 

이대로 괜찮은 걸까?