작가 : 무 무

"퇴사-이직-복귀" 5일 후, 샘 알트먼은 마침내 CEO 자리를 되찾고 그를 지지했던 전 이사회 의장 그렉 브록만(Greg Brockman)과 함께 OpenAI로 복귀했다.

사람들이 AI 거인이 연출한 궁전 드라마가 끝났다고 생각했을 때 로이터는 큰 멜론을 공개했습니다. 알트만이 해임되기 전에 몇몇 OpenAI 연구원들은 강력한 인공 지능 프로젝트에 대해 이사회에 경고 서한을 보냈습니다. 그 발견은 인류를 위협할 수 있으며, 이 편지는 알트만을 몰락시키는 열쇠가 될 수도 있습니다.

이 문제에 정통한 사람들은 또한 OpenAI 내에 일반 인공 지능(AGI) 탐구에 돌파구가 될 수 있는 Q*(Q-Star로 발음)라는 프로젝트가 있다고 로이터에 말했습니다.

이 시점에서 외부 세계의 관심은 OpenAI의 인사 투쟁에서 신비한 Q*로 옮겨졌습니다.

Q*는 AI의 수학적 능력과 관련이 있을 수 있습니다.

로이터가 공개한 내부 경고 서신과 Q*에 대한 정보는 익명의 출처에서 나왔습니다. 이 권위 있는 매체는 내부 서신의 원문을 본 적이 없고 Q*의 기능을 확인할 수 없다고 밝혔지만, 이러한 증분 정보는 여전히 외부 세계의 호기심을 불러일으켰습니다.

11월 22일 OpenAI는 Sam Altman을 CEO로 복귀시키고 Bret Taylor(회장), Larry Summers 및 Adam D'Angelo로 구성된 새로운 이사회를 구성하기로 원칙적으로 합의했다고 발표했습니다. 이 소식이 전해지자 알트만 퇴출의 핵심 동인으로 여겨졌던 회사의 수석 과학자 일리아 수츠케버(llya Sutskever)가 이사회에서 해임되었습니다.

X에는 ​​알트만과 오픈AI가 서로 호감을 표시했고, 브록만은 멤버들과의 '행복한 재회' 사진을 게재했고, 사장과 직원들은 다시 가족이 된 것을 축하했다.

'기업가와 과학자의 대결'로 알려진 이 드라마는 기업가의 승리로 끝났지만, 알트만이 OpenAI의 원래 이사회에 대한 불신을 갖게 된 원인이 무엇인지는 여전히 불분명하다.

11월 23일, 로이터 통신은 소식통을 인용하여 알트만이 사임하기 4일 전에 몇몇 연구자들이 인류를 위협할 수 있는 강력한 인공 지능의 발견에 대해 경고하는 편지를 이사회에 썼다고 말했습니다.

두 소식통은 이전에 보고되지 않은 편지와 인공지능 알고리즘이 이사회가 알트만을 축출하려는 움직임의 핵심이었다고 말했습니다. 한 소식통은 OpenAI가 직원들에게 보낸 내부 서한에서 Q*라는 프로젝트가 회사의 일반 인공 지능(AGI) 탐구에 획기적인 발전이 될 수 있다고 인정했다고 말했습니다.

OpenAI는 오랫동안 AGI가 가장 경제적으로 가치 있는 작업에서 인간 자율 시스템을 능가할 수 있다고 믿어왔습니다.

이름을 밝히지 말라고 요청한 사람은 엄청난 컴퓨팅 자원을 바탕으로 새 모델이 특정 수학적 문제를 해결할 수 있다고 말했습니다. 수학적 성능은 초등학생 수준에 불과하지만 이러한 테스트에서 얻은 좋은 결과는 다음과 같습니다. 연구자들은 Q*의 미래를 희망하며 성공에 대해 매우 낙관적입니다.

로이터 통신의 소식으로 인해 외부 세계의 관심은 OpenAI를 인사 분쟁에서 본업으로 전환했으며 OpenAI 개발자 커뮤니티에서도 Q*가 무엇인지 묻고 있지만 공식적인 답변을 받지 못했습니다.

로이터 통신의 소식으로 인해 외부 세계의 관심은 OpenAI를 인사 분쟁에서 본업으로 전환했으며 OpenAI 개발자 커뮤니티에서도 Q*가 무엇인지 묻고 있지만 공식적인 답변을 받지 못했습니다.

OpenAI 개발자 커뮤니티 토론 Q*

Q*는 수학과 관련이 있는 것으로 보이기 때문에 일부 개발자는 OpenAI의 연구 개발에서 Q-Learning 알고리즘을 사용할 수 있다고 추측하며, 이것이 이 신비한 프로젝트가 Q의 이름을 따서 명명된 이유일 수 있습니다.

Q-Learning 알고리즘은 '초등학교' 수준의 수학 계산을 수행할 수 있는 수학적 개념이자 기계 학습 알고리즘의 일종으로, 이 분야에서 OpenAI의 GPT-4 모델을 능가할 것으로 예상됩니다.

Q-Learning은 "강화 학습"이라는 기계 학습 기술을 사용하여 수학적 문제를 해결하고 정확하거나 최적의 행동에 보상을 주고 부정확하거나 차선의 행동을 처벌합니다. 기계는 가능한 모든 경로를 탐색하여 예상 보상을 얻기 위한 최단 경로를 학습하고, 시행착오를 통해 보다 최적의 경로를 찾고, 시간이 지남에 따라 최적화된 상태에 도달하여 매번 더 나은 결정을 내릴 수 있습니다.

AGI는 인간과 멀지 않은가?

GPT-4를 이해하기 위한 가장 직접적인 제품인 ChatGPT의 성능에 따르면, 이 대화형 로봇은 인문학, 프로그래밍 및 기타 분야의 자연어를 이해하고 상황 논리에 부합하는 답변을 제공할 수 있으며, 자체적으로 교정할 수도 있습니다. 인간의 끊임없는 프롬프트 속에서 답변을 얻습니다. .

그러나 ChatGPT는 수학적 문제를 잘 해결하지 못합니다. 예를 들어 "같은 새장에 있는 닭과 토끼" 문제를 한 번에 올바르게 답할 수 없습니다. 어떤 사람들은 혼합 연산 수학 문제를 내기도 했는데 이 사람의 대답은 다음과 같습니다. 역시 불만족스럽습니다.

이제 Q*는 GPT의 수학적 기능을 해결하는 OpenAI의 길로 간주됩니다.

여기에 새로운 질문이 있습니다. OpenAI가 수학적 능력을 얻은 후 AGI로 승격될 수 있는 이유는 무엇입니까?

연구자들은 수학이 생성 인공 지능 개발의 최전선에 있다고 믿습니다. 현재 제너레이티브 AI는 글쓰기와 언어 번역의 다음 단어를 통계적으로 예측하는 데 능숙하지만, 동일한 질문에 대한 답변은 매우 다양할 수 있습니다. 하지만 '단 하나의 정답'이라는 수학적 능력을 정복할 수 있다면 인공지능도 인간 지능과 유사한 더 강력한 추론 능력을 갖게 된다는 뜻이다.

제한된 수의 연산만 풀 수 있는 계산기와 달리 AGI는 일반화, 학습, 이해가 가능하며, 더 강력한 추론 능력은 의심할 여지 없이 이러한 AGI 특성에서 중요한 진전입니다.

로이터 통신에 이 소식을 전한 소식통은 OpenAI 내에 '인공지능 과학자' 팀으로 분류된 작업이 있다고 전했으며, 여러 소식통에서 이 팀의 존재를 확인했습니다. 이 문제에 정통한 관계자에 따르면, 기존 '코드젠' 팀과 '매스젠' 팀이 합쳐져 구성된 이 그룹은 기존 인공지능 모델을 최적화해 추론 능력을 향상하고 궁극적으로 과학적인 작업을 수행하는 방법을 모색하고 있다. .

OpenAI가 응답하지 않았고 실증적 증거도 없는 이 정보는 Q*를 더욱 신비롭게 만듭니다. Altman과 OpenAI의 과거 진술로 볼 때 AGI는 항상 이 회사가 추구하는 최고 수준이었습니다.

지난 11월에 발표된 수많은 새로운 도구 외에도 Altman은 지난주 샌프란시스코에서 열린 APEC 정상회담에서 상당한 진전이 있을 것으로 믿고 있다고 말했습니다. “OpenAI 역사상 네 번(가장 최근 몇 주 동안) 저는 무지의 장막을 걷어내고 발견의 한계를 뛰어넘는 방에 있었습니다. 그리고 그렇게 할 수 있다는 것이 제 인생의 하이라이트였습니다. 인생. 직업적 명예."

이제 알트만이 돌아왔습니다.화제 창출과 자본 운용에 능한 이 비즈니스 리더가 사람들이 Q*에 대한 소식을 놓치지 않게 하리라 믿습니다.