오픈AI 직원들.. “인간 통제 넘어설 것”
안전성 우려 토로
지난 일주일 동안 벌어졌던 오픈 AI CEO 해임 사태가 발생한 이유가 조금씩 밝혀지고 있다. 인류를 위협할 만큼 뛰어난 AI모델이 나타났고, 몇몇 직원이 이사회에 이를 보내 경고한 것으로 전해졌다.
로이터통신의 보도에 따르면, 오픈AI가 개발 중인 ‘큐스타(Q*)’라는 새로운 인공지능(AI) 모델에 대해 내부 직원들이 우려를 표명한 것으로 나타났다.
이 새로운 AI 모델이 수학 문제를 푸는 등 뛰어난 능력을 보이자, 일부 연구원들이 오픈AI 임원진에 ‘AI가 인류에게 위협이 될 수 있다’는 경고 메시지를 전달한 것으로 전해졌다. 내부 직원들이 새로운 모델에 대해 위협 느꼈고, 이 일이 샘 올트먼 CEO가 해임 조치된 것과 연관이 있다는 것이다.
새로운 AI 모델은 ‘큐 스타’
보도에 따르면 새로운 AI 모델의 이름은 ‘큐 스타’다. 해당 모델은 기존 AI보다 발전 속도가 수십 배 더 빠른 것으로 알려졌다.
큐스타는 이전 AI 모델에서 볼 수 없었던 수학 문제 해결 능력을 갖춘 것으로 보인다. 일부 연구자들은 AI가 놀라울 정도로 빠른 발전 속도로 발전하고 있고, 수학 문제 해결 능력은 이러한 발전이 더욱 가속화될 것임을 의미한다고 평가했다.
로이터에 따르면 현재 큐스타의 성능은 초등학교 수준의 수학 문제를 푸는 수준에 머무르고 있다고 설명했다. 하지만 큐스타의 잠재적 영향력이 인류에 대한 위협이 될 정도로 크다고 판단한 것으로 보인다.
전문가들은 여러 회사들이 경쟁적으로 AI 모델을 개발하면서 인간 수준 혹은 그 이상으로 다양한 작업을 수행할 수 있는 AI가 등장할 것이라고 우려하고 있다.
기존 AI와 다른점은..
CHAT GPT 같은 기존 AI 모델은 무수히 많은 데이터를 학습하고, 통계를 바탕으로 다음에 나올 단어를 예측해 문자를 생성한다. 마찬가지로 수학 연산도 학습한 데이터 범위 안에서만 연산할 수 있다. 즉, 학습한 데이터가 없는 새로운 유형의 문제는 정답을 맞힐 수 없고, 통계를 기반으로 답하기 때문에 같은 질문에 대한 답변도 달라질 수 있다.
하지만 새로운 AI 모델인 ‘큐 스타’는 다르다. 막대한 데이터를 추가로 학습하지 않아도 스스로 문제를 이해하고 해결하는 능력을 갖췄다는 것이다.
한편, 챗GPT는 22년 11월 30일 정식 되었다. 이후 23년 3월 14일 성능이 더욱 개선된 GPT-4를 출시해 전세계를 깜짝 놀라게 했다.
누리꾼들은 오픈AI가 챗GPT-3를 출시한지 불과 1년 밖에 되지 않았는데, 더 뛰어난 AI 모델에 대한 소식이 전해지자 놀랐다는 반응이다.
