AI 개발은 실존적 위협, 업계 거물들의 긴급한 경고

최고의 인공지능(AI) 기업 리더들은 자신들이 발전시키는 기술이 언젠가는 인류에게 실존적 위협이 될 수 있다고 경고하며 경종을 울리고 있습니다. 이러한 경고는 전염병이나 핵전쟁과 같은 다른 사회적 위협과 유사합니다.

 

AI의 위험에 대한 대처가전 세계적인 관심사

 

AI 안전 센터가 발표한 성명서에 따르면 AI가 인류의 멸종으로 이어질 가능성은 전염병이나 핵전쟁과 같은 다른 대규모 사회적 위험과 함께 전 세계적인 우선 순위가 되어야 합니다. 경영진, 연구원, 엔지니어 등 350명 이상의 AI 전문가들이 AI의 잠재적 위험성을 경고하는 이 공개 서한을 지지했습니다.

 

AI 거물들이 우려를 표명하다

 

이 서한에 서명한 사람 중에는 OpenAI의 샘 알트만, Google DeepMind의 데미스 하사비스, Anthropic의 다리오 아모데이 등 AI 선두주자의 리더들이 포함되어 있습니다. 또한 신경망에 대한 획기적인 연구로 세계적으로 인정받고 있는 제프리 힌튼과 요슈아 벤지오 같은 AI 선구자들도 이러한 우려에 공감하고 있습니다.

 

AI의 발전, 판도라의 상자

 

이러한 우려는 AI, 특히 ChatGPT와 같은 대규모 언어 모델의 급속한 발전 속에서 발생합니다. AI가 허위 정보와 선전을 대규모로 유포하거나 수백만 개의 사무직 일자리를 대체하는 데 악용될 수 있다는 우려가 커지고 있습니다.

 

AI 혁명에 의한 사회적 혼란 가능성

 

일부 전문가들은 AI를 방치할 경우 수년 내에 사회적 규모의 격변을 초래할 수 있다고 주장합니다. 이러한 경고는 기술을 개발하고 가속화하는 바로 그 사람들로부터 나온 것으로, 더 엄격한 AI 규제의 필요성에 대한 중대한 난제를 제기합니다.

 

AI 규제의 최우선 순위의 문제

 

AI 업계 최고 지도자, 바이든 대통령, 카말라 해리스 부통령 등이 참여한 AI 규제에 관한 고위급 회의가 열렸습니다. 이 회의에서는 첨단 AI 시스템으로 인한 잠재적 피해를 관리하기 위해 정부의 개입이 시급하다는 점이 강조되었습니다.

 

AI 업계에서 점점 커지는 우려

 

AI 안전 센터의 댄 헨드릭스 전무이사에 따르면, 이 공개 서한은 지금까지 사적으로만 우려를 표명했던 여러 업계 리더들이 위험성을 공개적으로 인정한 것이라고 합니다. 일부에서는 AI 기술이 아직 너무 미성숙해 실존적 위협이 될 수 없다고 주장하지만, 다른 사람들은 AI의 급속한 발전이 미래에 중대한 도전이 될 가능성을 보여준다고 주장합니다.

 

AI 성능 인간을 앞지르는가?

 

AI가 여러 분야에서 인간 수준의 성능을 능가하고 고도의 능력과 이해력을 보여주면서 '인공 일반 지능(AGI)'의 도래에 대한 우려를 불러일으키고 있습니다. AGI는 다양한 작업에서 인간과 동등하거나 그 이상의 성능을 발휘할 수 있는 AI를 의미합니다.

 

AI 관리 책임 있는 거버넌스에 대한 요구

 

최근 블로그 게시물에서 샘 알트먼과 다른 두 명의 OpenAI 임원은 AI 제조업체 간의 협력 전략, 대규모 언어 모델에 대한 추가 기술 연구, 국제원자력기구와 유사한 국제 AI 안전 기구 설립을 제안했습니다. 또한 대규모 AI 개발자가 정부에서 발급한 라이선스를 보유하도록 하는 규제를 옹호하는 의견도 있었습니다.

 

AI 개발 잠시 멈춰야 할 때

 

올해 초, 1,000명이 넘는 기술자와 연구자들이 서명한 공개 서한은 점점 더 강력한 디지털 마인드를 만들고 배포하기 위한 통제되지 않은 경쟁에 대한 우려를 표명하며 대규모 AI 모델 개발을 일시적으로 중단할 것을 촉구했습니다.

 

AI 전문가들 간의 단합 필요

 

AI 전문가들은 특정 위험이나 이를 완화하기 위한 조치에 대해 서로 다른 견해를 가지고 있을 수 있지만, AI 시스템의 힘에 대한 우려는 공유하고 있습니다. 공동의 입장이 절실히 필요했기 때문에 AI 안전 센터는 핵심 메시지가 희석되는 것을 방지하기 위해 이 간결한 성명을 발표했습니다.

 

엔터테인먼트, 동반자, 생산성 등 다양한 목적으로 AI 챗봇에 대한 의존도가 높아지고 AI 기술이 빠르게 발전함에 따라 이러한 우려를 해소하는 것이 무엇보다 시급해졌습니다. "이 기술이 잘못되면 큰 문제가 발생할 수 있다"는 경고에 귀를 기울이고 이를 방지하기 위해 함께 노력해야 할 때입니다.

 

김선생의 뉴욕타임즈: AI 소형화 경쟁, 적은 수의 단어를 학습시키면 더 인간적이다>>>