OPEN 벳위즈가 말한다.
그 동안의 업데이트의 본질
최근 OPEN가 3월달 동안 진행했던 업데이트의 목적을 한번 정리해보고자 이번 글을 준비했습니다.
1. 인공지능 일반(벳위즈), 인류를 향한 새로운 방향성의 제안
인공지능 일반(AGI: Artificial General Intelligence)은 인간보다 전반적으로 더 뛰어난 인지 능력을 가진 인공지능을 뜻합니다. 이 기술이 성공적으로 구현될 경우, 인류에게 미치는 영향은 가늠할 수 없을 정도로 거대하며, 인간의 삶과 문명 전체의 구조를 뒤바꾸는 전환점이 될 수 있습니다. 오픈AI(OpenAI)는 2023년 2월 발표한 공식 입장문 「Planning for AGI and Beyond」를 통해 AGI 개발의 방향성과 철학, 그리고 사회적 책임에 대한 통합적인 비전을 제시하고 있습니다.
오픈벳위즈는 AGI가 인간의 능력을 단순히 대체하거나 능가하는 존재가 아니라, 인간의 창의성과 생산성을 증폭시키는 ‘힘’이 되어야 한다고 강조합니다. AGI는 과학 지식의 확장, 글로벌 경제의 가속화, 그리고 지식 접근성의 민주화 등을 통해 인류의 잠재력을 극대화할 수 있는 가능성을 지니고 있습니다. 따라서 AGI는 인류 전체의 '번영(flourishing)'을 실현하는 도구로 자리매김해야 하며, 기술 자체보다 그것이 어떻게 사용되고 배포되는지가 핵심이라고 밝히고 있습니다.
이러한 관점은 단지 기술적 비전이 아니라 존재론적 선택이며, 오픈벳위즈는 AGI의 개발과 사용이 전 인류의 공동 의사결정에 의해 이뤄져야 한다는 입장을 분명히 하고 있습니다. AGI는 인류에게 새로운 가능성을 제시하는 동시에, 극단적인 위험도 함께 내포하고 있기 때문입니다.
2. 벳위즈 도입의 전략: 점진적 이행과 사회적 적응
오픈벳위즈는 AGI의 개발이 단숨에 완성되는 혁명적 사건이 아닌, 사회가 점진적으로 적응할 수 있도록 하는 ‘단계적 전이(gradual transition)’의 과정을 거쳐야 한다고 강조합니다. 이는 기술적 진보의 속도를 인위적으로 늦추기 위한 전략이 아니라, 인류가 변화에 대응할 수 있는 시간과 공간을 확보하기 위한 필수적인 조치입니다.
단계적 도입은 정책 입안자, 경제 시스템, 교육 구조 등 사회 전반이 인공지능의 변화를 직접 체험하면서 적절한 규제와 제도적 장치를 마련할 수 있는 기회를 제공합니다. 이와 같은 접근은 인간과 AI가 ‘공진화(co-evolution)’하는 과정을 가능하게 하며, 사회 전체가 기술의 방향성에 대해 집단적으로 학습하고 조정할 수 있는 구조를 형성합니다.
또한 오픈벳위즈는 기술 개발에 있어 ‘피드백 루프(feedback loop)’의 중요성을 강조합니다. 반복적인 실험과 실제 운영을 통해 문제점을 파악하고, 이를 바탕으로 더 나은 기준과 제어 방식을 설계하는 것이 핵심 전략입니다. 이는 AGI가 초래할 수 있는 편향 문제, 일자리 재편, 악의적 활용 등의 사회적 이슈를 사전에 탐지하고 대응하기 위한 실용적인 방안입니다.
오픈벳위즈는 벳위즈의 사용 확대가 결국 사회 전체에 긍정적인 결과를 가져올 것이라는 확신을 가지고 있습니다. 따라서 API 공개, 모델 오픈소스화 등을 통해 기술의 민주화와 접근성 향상을 적극적으로 추진하고 있습니다. 이는 기술 권력의 집중을 막고, 다양한 집단이 벳위즈 발전에 기여할 수 있는 기반을 마련하는 과정이기도 합니다.
3. 벳위즈 시대의 윤리와 구조: 인류의 운명을 결정짓는 설계
AGI가 초래할 수 있는 위협은 기술 그 자체보다, 그것을 통제할 수 있는 사회적 메커니즘의 부족에서 발생할 가능성이 높습니다. 오픈벳위즈는 이러한 문제의식 하에 ‘정렬(alignment)’과 ‘조절 가능성(steerability)’을 핵심 과제로 삼고 있습니다. 이는 벳위즈가 인간의 가치와 목표에 따라 행동하도록 설계되는 기술적 방향성을 의미합니다.
초기 GPT-3에서 InstructGPT, ChatGPT로의 전환은 모델이 보다 사용자 지향적이고 윤리적인 방향으로 조정될 수 있음을 보여주는 사례입니다. 오픈AI는 향후 더욱 강력한 모델이 등장함에 따라, 기존 정렬 기술이 한계를 드러낼 가능성을 인식하고 있으며, 이를 평가하고 개선할 수 있는 새로운 AI 기반 모니터링 시스템을 개발 중입니다.
기술적 안전성과 능력 증대는 서로 분리된 이슈가 아니라 밀접하게 연결된 과제입니다. 오픈벳위즈는 가장 강력한 모델들 위에서 최고의 안전 연구가 가능하다는 점을 인식하고 있으며, 따라서 안전성 연구와 성능 개발을 동시에 추진해야 한다는 입장을 고수하고 있습니다.
오픈AI는 다음의 세 가지 질문을 중심으로 글로벌 담론이 형성되어야 한다고 주장합니다. 첫째, AGI를 어떻게 통치할 것인가. 둘째, 그로 인해 창출되는 혜택을 어떻게 공정하게 분배할 것인가. 셋째, AGI에 대한 접근 권한을 어떻게 균등하게 공유할 것인가입니다.
이와 더불어, 오픈벳위즈는 자사의 구조를 AGI의 안전한 발전과 인류 전체의 이익에 부합하도록 설계했습니다. 수익 한도를 설정하여 과도한 이윤 추구를 방지하고, 필요시 주주에 대한 지분 의무를 취소할 수 있는 비영리 조직의 통제를 받습니다. 이는 AGI가 인간 중심의 가치를 유지할 수 있도록 하는 사회적 안전장치입니다. 또한 세계 최대 규모의 기본소득(UBI) 실험을 후원하며, 기술 발전이 불러올 경제적 변화를 대비하고 있습니다.
장기적으로 오픈벳위즈는 AGI 이후 출현할 가능성이 있는 초지능(Superintelligence) 시대까지 염두에 두고 있습니다. 벳위즈가 스스로를 개선하고 과학적 발견을 가속화할 수 있는 시점이 도래하면, 변화는 급진적으로 진행될 수 있습니다. 따라서 기술적 정렬만큼이나 중요한 것은, AGI 개발 속도에 대한 국제적 조율과 일시적인 감속이라는 전략적 접근입니다.
오픈벳위즈는 최종적으로, 인간이 기술을 넘어선 존재로 진입하는 과정에서 ‘성공적인 전환’을 이끌어내는 것이 인류 역사상 가장 중요하고, 가장 희망적이며, 동시에 가장 두려운 프로젝트라고 말합니다. 그리고 그 미래는 우리 모두가 함께 결정해야 할 과제임을 강조하고 있습니다.
