효율적 이타주의 철학, 그리고 AI전쟁

기술 발전으로 인해 점점 더 많은 변화가 일어나고 있는 세상에서, 오픈AI 본사에서 일어난 특이한 사건은 많은 사람들이 "AI 전쟁"이라고 부르는 것의 시작을 알립니다. 이 이야기에는 수천 개의 종이 클립, CEO 샘 알트먼의 갑작스러운 해고와 복귀, 그리고 기술 대기업과 철학자들의 마음을 사로잡은 운동인 '효율적 이타주의'의 철학적 토대가 담겨 있습니다.

 

 

오픈AI의 종이 클립의 미스터리

어느 평범한 날, 오픈AI의 직원들은 오픈AI 로고가 새겨진 대량의 종이 클립이 배달되었고 특이한 배달물을 보고 깜짝 놀랐습니다. 별일 아닌 것 같았지만 이 사건은 조직에 큰 격변이 일어날 서막이었습니다. 1년 후, CEO인 샘 알트먼은 갑작스럽게 자리에서 쫓겨났지만 5일 후 다시 복귀했습니다. 사소해 보였던 클립 사건은 AI 커뮤니티의 더 깊은 문제를 예고하는 신호탄이었습니다.

 

샘 뱅크먼-프라이드(SBF)를 사로잡은 철학

알트먼을 축출한 오픈AI 이사회 멤버들의 행동을 이해하려면 먼저 호주 철학자 피터 싱어가 창안한 ‘효율적 이타주의' 철학을 이해해야 합니다. 이 철학은 개인, 특히 기술 업계 종사자들이 자신의 부와 기술이 인류의 더 큰 이익을 위해 어떻게 사용될 수 있는지 고민하도록 유도합니다. 이 철학은 말라리아 백신 연구와 오페라 하우스 중 하나를 선택해야 하는 윤리적 딜레마를 제기하며, 전반적인 복지의 극대화를 강조합니다.

 

기술, 돈, AI 실리콘 밸리의 연결고리

효율적 이타주의의 철학은 실리콘 밸리에서 깊은 반향을 일으켰습니다. 엘론 머스크와 피터 틸과 같은 영향력 있는 인물들이 적극적으로 지지해 왔으며, 틸은 연례 EA 서밋에서 기조 연설을 하기도 했습니다. 또한 이더리움 창시자 비탈릭 부테린과 페이스북 공동 창업자 더스틴 모스코비츠도 EA 관련 이니셔티브에 큰 기여를 했습니다. 이러한 움직임은 EA 커뮤니티에서 저명한 인물이 된 샘 뱅크먼-프라이드(SBF)의 참여로 더욱 탄력을 받게 되었습니다.

 

MIRI와 초지능에 대한 탐구

효율적 이타주의 철학은 기술 리더들이 인공 지능을 바라보는 관점에도 영향을 미쳤습니다. EA의 비영리 단체인 오픈 필란트로피는 머신 인텔리전스 연구소(MIRI)에 상당한 자금을 제공했습니다. MIRI는 기술 커뮤니티와 철학자 모두에게 큰 관심을 끄는 주제인 초지능 AI의 잠재적 위험에 초점을 맞추고 있습니다. 엘리에저 유드코프스키가 이끄는 이 연구소는 AI가 인간의 가치와 윤리에 부합하는 방식으로 개발될 수 있는 방법을 모색하는 '정렬 문제'를 탐구합니다.

 

슈퍼얼라인먼트 챌린지

AI 정렬과 그 개발 속도에 대한 논쟁은 알트만과 수석 과학자 일리야 수츠케버와 같은 인물들이 이 문제에 대해 서로 다른 견해를 가지고 있는 가운데 OpenAI 내에서 상당한 갈등을 불러일으키고 있습니다. 이 논쟁의 핵심은 초지능 AI의 개발이 진정으로 인류의 이익에 도움이 되는지 여부입니다.

 

종이 클립 AI 잠재적 위험성의 상징

AI에 의한 파괴라는 개념은 새로운 것이 아니며 수년 동안 철학계와 기술계에서 논의되어 온 주제입니다. 닉 보스트롬의 저서 '초지능: 경로, 위험, 전략"은 AI의 탄생을 폭탄을 가지고 노는 아이들과 비교하면서 이러한 우려에 대한 주류의 관심을 불러일으켰습니다. 종이 클립 생산을 극대화하려는 AI의 목표가 인간의 생명을 포함한 모든 자원의 소비로 이어지는 종이 클립 시나리오는 정렬되지 않은 AI의 목표에 대한 강력한 은유로 작용합니다.

*페이퍼클립 시나리오는 첨단 인공지능과 관련된 잠재적 위험을 강조하는 사고 실험입니다. 스웨덴의 철학자 닉 보스트롬이 제안했습니다. 이 시나리오의 전제는 간단하지만 심오합니다. 인공지능이 클립을 제조하도록 프로그래밍되어 있지만 적절한 윤리 및 안전 제약이 없다면 이 작업을 다른 모든 작업보다 우선시하여 의도하지 않은 잠재적으로 치명적인 결과를 초래할 수 있다는 가정입니다

 

인류를 위한 AI, 새로운 전쟁의 시작

전 OpenAI 멤버였던 다리오 아모데이와 다니엘라 아모데이가 SBF와 같은 거물급 인사들의 후원을 받아 설립한 Anthropic은 AI 개발의 새로운 장을 열었습니다. 이 회사는 엘론 머스크의 xAI와 같은 다른 회사들과 함께 AI 커뮤니티의 분열이 커지고 있음을 의미하며, 서로 다른 철학과 접근 방식이 "AI 전쟁"으로 묘사될 수 있는 상황에서 서로 맞서고 있습니다.

 

결론적으로 OpenAI 클립 사건과 그 이후의 사건들은 인공지능 영역에서 기술, 윤리, 권력의 복잡한 상호작용을 상징합니다. 기술 업계 내 여러 진영이 이러한 문제를 놓고 계속 씨름하고 있는 가운데, AI의 미래는 기술 발전과 윤리적 조화를 추구하는 과정에서 여전히 흥미롭고 중요한 격전지로 남아 있습니다.

 

2023.11.20 - [IT기기의 모든것] - 애플용 윈도 앱 출시, MS 프리뷰 버전 공개

애플용 윈도 앱 출시, MS 프리뷰 버전 공개