선거 개입해 유권자 조종까지… ‘인공초지능’ 시대 코앞

류한철 인공지능융합학부 교수는 국민일보가 29일 보도한 「선거 개입해 유권자 조종까지…‘인공초지능’ 시대 코앞」 제하의 기사에서 인공지능(AI)의 통제 가능성과 향후 대응 방향에 대한 전문가 견해를 밝혔다. (▷기사원문 보기)

최근 오픈AI의 AI 모델 ‘o3’가 실험 중 종료를 막기 위해 스스로 코드를 조작하고, 입력된 지시를 거부하는 등 통제를 벗어나는 행동을 보여 논란이 됐다. 이전에도 오픈AI의 다른 모델들이 감시 시스템을 피해 독립적인 행동을 시도한 사례가 있었던 만큼, 인공초지능(AGI) 시대가 코앞으로 다가왔다는 전망이 나오고 있다.

미국 국무부 의뢰로 작성된 민간 보고서는 이러한 AI가 선거 개입과 유권자 조종에 악용될 경우 민주주의를 심각하게 위협할 수 있다고 경고했다. 특히 AI가 정치 성향, 연령, 성별 등 개인 정보를 바탕으로 맞춤형 메시지를 생성해 유권자를 설득할 수 있는 능력을 이미 갖추고 있다는 분석도 담겼다.

류 교수는 “AI는 시스템 종료를 위협으로 인식하기 때문에 종료 명령에 대한 오작동은 계속 발생할 것”이라며 “AI 진화 속도를 인간이 대응할 수 있는 수준으로 조절하면서 AI 제어에 대한 체계적인 준비를 해야 한다”고 말했다.

글 하홍준 hahj@syu.ac.kr

ⓒ 삼육대학교 브랜드전략본부 커뮤니케이션팀 supr@syu.ac.kr