https://blog.samaltman.com/
세 가지 관찰
우리의 임무는 AGI(인공 일반 지능)가 모든 인류에게 이익이 되도록 하는 것입니다.
AGI를 가리키는 시스템들이 눈에 들어오기 시작했으므로, 우리가 현재 어떤 시점에 있는지 이해하는 것이 중요하다고 생각합니다. AGI는 약하게 정의된 용어이지만, 일반적으로 말하자면 많은 분야에서 인간 수준으로 점점 더 복잡한 문제를 해결할 수 있는 시스템을 의미합니다.
사람들은 이해하고 창조하려는 내재된 욕구를 가진 도구 제작자이며, 이는 세상이 우리 모두에게 더 나아지도록 이끌어줍니다. 각 세대는 이전 세대의 발견을 바탕으로 더욱 강력한 도구(전기, 트랜지스터, 컴퓨터, 인터넷, 그리고 곧 AGI)를 만듭니다.
시간이 흐르면서, 때로는 기복이 있지만, 인간 혁신의 꾸준한 행진은 이전에는 상상할 수 없었던 수준의 번영과 거의 모든 측면에서 사람들의 삶의 개선을 가져왔습니다.
어떤 의미에서 AGI는 우리가 함께 쌓아 올리는 인간 발전의 점점 더 높아지는 발판의 또 다른 도구일 뿐입니다. 또 다른 의미에서, AGI는 "이번에는 다르다"고 말하지 않을 수 없는 무언가의 시작입니다. 우리 앞에 놓인 경제 성장은 놀라워 보이며, 우리는 이제 모든 질병을 치료하고, 가족과 함께 훨씬 더 많은 시간을 보내며, 창의적인 잠재력을 완전히 실현할 수 있는 세상을 상상할 수 있습니다.
10년 안에 아마도 지구상의 모든 사람들이 오늘날 가장 영향력 있는 사람이 할 수 있는 것보다 더 많은 것을 성취할 수 있을 것입니다.
우리는 AI 개발에서 빠른 진전을 계속해서 보고 있습니다. 다음은 AI 경제에 대한 세 가지 관찰입니다.
AI 모델의 지능은 대략 모델을 훈련하고 실행하는 데 사용되는 자원의 로그와 같습니다. 이러한 자원은 주로 훈련 컴퓨팅, 데이터 및 추론 컴퓨팅입니다. 당신은 임의의 금액을 지출하고 지속적이고 예측 가능한 이익을 얻을 수 있는 것으로 보입니다. 이를 예측하는 스케일링 법칙은 여러 차례에 걸쳐 정확합니다.
특정 수준의 AI를 사용하는 비용은 12개월마다 약 10배씩 떨어지며, 가격이 낮아질수록 사용량이 훨씬 늘어납니다. 2023년 초의 GPT-4에서 2024년 중반의 GPT-4o까지의 토큰 비용을 보면 알 수 있는데, 이 기간 동안 토큰당 가격이 약 150배나 떨어졌습니다. 무어의 법칙은 18개월마다 2배씩 세상을 변화시켰습니다. 이는 믿을 수 없을 정도로 강력합니다.
선형적으로 증가하는 지능의 사회경제적 가치는 초지수 함수적입니다. 이로 인해 우리는 가까운 미래에 지수 함수적으로 증가하는 투자가 멈출 이유가 없다고 생각합니다.
이러한 세 가지 관찰이 계속 유지된다면 사회에 미치는 영향은 상당할 것입니다.
우리는 이제 AI 에이전트를 출시하기 시작했으며, 이는 결국 가상의 동료처럼 느껴질 것입니다.
특히 중요할 것으로 예상되는 소프트웨어 엔지니어링 에이전트의 경우를 상상해 봅시다. 이 에이전트가 결국 몇 년의 경험을 가진 최고의 회사의 소프트웨어 엔지니어가 할 수 있는 대부분의 작업을 최대 며칠 동안 할 수 있을 것이라고 상상해 보세요. 가장 큰 새로운 아이디어를 가지고 있지는 않을 것이고, 많은 인간의 감독과 지시가 필요하며, 어떤 것에는 능숙하지만 다른 것에는 놀라울 정도로 서툴 것입니다.
여전히, 그것을 실제적이지만 비교적 젊은 가상의 동료라고 상상해 보세요. 이제 1,000명 또는 100만 명의 에이전트를 상상해 보세요. 이제 모든 분야의 지식 노동에서 그러한 에이전트를 상상해 보세요.
어떤 면에서 AI는 경제적으로 트랜지스터와 비슷하게 될 수 있습니다. 즉, 잘 확장되고 경제의 거의 모든 구석구석에 스며드는 큰 과학적 발견입니다. 우리는 트랜지스터나 트랜지스터 회사에 대해 많이 생각하지 않으며, 이익은 매우 광범위하게 분배됩니다. 그러나 우리는 컴퓨터, TV, 자동차, 장난감 등이 기적을 행할 것이라고 기대합니다.
세상은 한 번에 변하지 않습니다. 절대 그렇지 않습니다. 단기적으로는 삶은 대체로 똑같이 흘러갈 것이며, 2025년의 사람들은 2024년과 거의 같은 방식으로 시간을 보낼 것입니다. 우리는 여전히 사랑에 빠지고, 가족을 만들고, 온라인에서 싸우고, 자연 속에서 하이킹을 하는 등등을 할 것입니다.
그러나 미래는 우리가 무시할 수 없는 방식으로 우리에게 다가올 것이며, 우리 사회와 경제에 대한 장기적인 변화는 엄청날 것입니다. 우리는 새로운 할 일, 서로에게 유용할 새로운 방법, 경쟁할 새로운 방법을 찾을 것이지만, 오늘날의 직업과는 매우 다를 수 있습니다.
대리, 의지, 결단력은 매우 가치가 있을 것입니다. 무엇을 해야 할지 올바르게 결정하고 끊임없이 변화하는 세상을 헤쳐나가는 방법을 알아내는 것은 엄청난 가치를 가질 것입니다. 회복력과 적응력은 키워야 할 유용한 기술이 될 것입니다. AGI는 인간 의지에 대한 가장 큰 지렛대가 될 것이며, 개개인이 이전보다 더 많은 영향력을 갖도록 할 것입니다.
우리는 AGI의 영향이 고르지 않을 것이라고 예상합니다. 일부 산업은 거의 변하지 않겠지만, 과학적 진보는 오늘날보다 훨씬 빠를 것입니다. AGI의 이러한 영향은 다른 모든 것을 능가할 수 있습니다.
많은 상품의 가격은 결국 급격하게 떨어질 것이고(현재 지능 비용과 에너지 비용은 많은 것들을 제한하고 있습니다), 사치품과 토지와 같은 몇 가지 본질적으로 제한된 자원의 가격은 훨씬 더 급격하게 상승할 수 있습니다.
기술적으로 말하면, 우리 앞의 길은 상당히 명확해 보입니다. 그러나 AGI를 사회에 통합하는 방법에 대한 공공 정책과 집단적 의견은 매우 중요합니다. 우리가 제품을 조기에 그리고 자주 출시하는 이유 중 하나는 사회와 기술이 함께 진화할 시간을 주기 위해서입니다.
AI는 경제와 사회의 모든 영역에 스며들 것입니다. 우리는 모든 것이 똑똑해질 것이라고 기대할 것입니다. 우리 중 많은 사람들은 역사적으로 그랬던 것보다 사람들에게 기술에 대한 더 많은 통제권을 부여해야 할 것이라고 예상하며, 더 많은 것을 오픈 소스화하고, 안전과 개인의 권한 부여 사이에 절충점이 있으며 거래가 필요하다는 것을 받아들여야 합니다.
우리는 결코 무모해지고 싶지 않으며 AGI 안전과 관련된 몇 가지 주요 결정과 제한이 인기가 없을 가능성이 있지만, 방향적으로 AGI 달성에 가까워질수록 개인의 권한 부여 쪽으로 더 기울어지는 것이 중요하다고 믿습니다. 우리가 볼 수 있는 다른 가능한 경로는 AI가 전체주의 정부에 의해 대량 감시와 자율성 상실을 통해 인구를 통제하는 데 사용되는 것입니다.
AGI의 이점이 광범위하게 분배되도록 하는 것이 중요합니다. 기술 발전의 역사적 영향은 우리가 중요하게 생각하는 대부분의 지표(건강 결과, 경제적 번영 등)가 평균적으로 그리고 장기적으로 개선되지만, 평등 증가는 기술적으로 결정되는 것 같지 않으며 이를 올바르게 수행하려면 새로운 아이디어가 필요할 수 있음을 시사합니다.
특히 자본과 노동 사이의 힘의 균형이 쉽게 망가질 수 있는 것처럼 보이며, 이는 조기 개입이 필요할 수 있습니다. 우리는 지구상의 모든 사람이 많은 AI를 사용할 수 있도록 "컴퓨팅 예산"을 제공하는 것과 같은 이상하게 들리는 아이디어에 열려 있지만, 단순히 지능 비용을 가능한 한 낮추는 것이 원하는 효과를 가져오는 많은 방법을 볼 수도 있습니다.
2035년의 누구든지 2025년의 모든 사람과 동등한 지적 능력을 발휘할 수 있어야 합니다. 모든 사람은 자신이 상상할 수 있는 모든 방식으로 지시할 수 있는 무제한의 천재성에 접근할 수 있어야 합니다. 현재 완전히 표현할 자원이 없는 많은 재능이 있으며, 이를 바꾸면 세상의 창의적인 결과물은 우리 모두에게 엄청난 이익을 가져다 줄 것입니다.
특히 초고 작성 검토에 도움을 준 Josh Achiam, Boaz Barak 및 Aleksander Madry에게 감사합니다.
*여기서 AGI라는 용어를 사용함으로써 명확하게 소통하고자 하며, Microsoft와의 관계를 정의하는 정의와 프로세스를 변경하거나 해석할 의도는 없습니다. 우리는 Microsoft와 장기적으로 파트너십을 맺을 것으로 전적으로 예상합니다. 이 각주는 어리석어 보이지만, 반면에 일부 언론인들이 어리석은 기사를 써서 클릭 수를 얻으려고 할 것이라는 것을 알고 있으므로 여기서 미리 어리석음을 막고 있습니다…
https://blog.samaltman.com/
세 가지 관찰
우리의 임무는 AGI(인공 일반 지능)가 모든 인류에게 이익이 되도록 하는 것입니다.
AGI를 가리키는 시스템들이 눈에 들어오기 시작했으므로, 우리가 현재 어떤 시점에 있는지 이해하는 것이 중요하다고 생각합니다. AGI는 약하게 정의된 용어이지만, 일반적으로 말하자면 많은 분야에서 인간 수준으로 점점 더 복잡한 문제를 해결할 수 있는 시스템을 의미합니다.
사람들은 이해하고 창조하려는 내재된 욕구를 가진 도구 제작자이며, 이는 세상이 우리 모두에게 더 나아지도록 이끌어줍니다. 각 세대는 이전 세대의 발견을 바탕으로 더욱 강력한 도구(전기, 트랜지스터, 컴퓨터, 인터넷, 그리고 곧 AGI)를 만듭니다.
시간이 흐르면서, 때로는 기복이 있지만, 인간 혁신의 꾸준한 행진은 이전에는 상상할 수 없었던 수준의 번영과 거의 모든 측면에서 사람들의 삶의 개선을 가져왔습니다.
어떤 의미에서 AGI는 우리가 함께 쌓아 올리는 인간 발전의 점점 더 높아지는 발판의 또 다른 도구일 뿐입니다. 또 다른 의미에서, AGI는 "이번에는 다르다"고 말하지 않을 수 없는 무언가의 시작입니다. 우리 앞에 놓인 경제 성장은 놀라워 보이며, 우리는 이제 모든 질병을 치료하고, 가족과 함께 훨씬 더 많은 시간을 보내며, 창의적인 잠재력을 완전히 실현할 수 있는 세상을 상상할 수 있습니다.
10년 안에 아마도 지구상의 모든 사람들이 오늘날 가장 영향력 있는 사람이 할 수 있는 것보다 더 많은 것을 성취할 수 있을 것입니다.
우리는 AI 개발에서 빠른 진전을 계속해서 보고 있습니다. 다음은 AI 경제에 대한 세 가지 관찰입니다.
AI 모델의 지능은 대략 모델을 훈련하고 실행하는 데 사용되는 자원의 로그와 같습니다. 이러한 자원은 주로 훈련 컴퓨팅, 데이터 및 추론 컴퓨팅입니다. 당신은 임의의 금액을 지출하고 지속적이고 예측 가능한 이익을 얻을 수 있는 것으로 보입니다. 이를 예측하는 스케일링 법칙은 여러 차례에 걸쳐 정확합니다.
특정 수준의 AI를 사용하는 비용은 12개월마다 약 10배씩 떨어지며, 가격이 낮아질수록 사용량이 훨씬 늘어납니다. 2023년 초의 GPT-4에서 2024년 중반의 GPT-4o까지의 토큰 비용을 보면 알 수 있는데, 이 기간 동안 토큰당 가격이 약 150배나 떨어졌습니다. 무어의 법칙은 18개월마다 2배씩 세상을 변화시켰습니다. 이는 믿을 수 없을 정도로 강력합니다.
선형적으로 증가하는 지능의 사회경제적 가치는 초지수 함수적입니다. 이로 인해 우리는 가까운 미래에 지수 함수적으로 증가하는 투자가 멈출 이유가 없다고 생각합니다.
이러한 세 가지 관찰이 계속 유지된다면 사회에 미치는 영향은 상당할 것입니다.
우리는 이제 AI 에이전트를 출시하기 시작했으며, 이는 결국 가상의 동료처럼 느껴질 것입니다.
특히 중요할 것으로 예상되는 소프트웨어 엔지니어링 에이전트의 경우를 상상해 봅시다. 이 에이전트가 결국 몇 년의 경험을 가진 최고의 회사의 소프트웨어 엔지니어가 할 수 있는 대부분의 작업을 최대 며칠 동안 할 수 있을 것이라고 상상해 보세요. 가장 큰 새로운 아이디어를 가지고 있지는 않을 것이고, 많은 인간의 감독과 지시가 필요하며, 어떤 것에는 능숙하지만 다른 것에는 놀라울 정도로 서툴 것입니다.
여전히, 그것을 실제적이지만 비교적 젊은 가상의 동료라고 상상해 보세요. 이제 1,000명 또는 100만 명의 에이전트를 상상해 보세요. 이제 모든 분야의 지식 노동에서 그러한 에이전트를 상상해 보세요.
어떤 면에서 AI는 경제적으로 트랜지스터와 비슷하게 될 수 있습니다. 즉, 잘 확장되고 경제의 거의 모든 구석구석에 스며드는 큰 과학적 발견입니다. 우리는 트랜지스터나 트랜지스터 회사에 대해 많이 생각하지 않으며, 이익은 매우 광범위하게 분배됩니다. 그러나 우리는 컴퓨터, TV, 자동차, 장난감 등이 기적을 행할 것이라고 기대합니다.
세상은 한 번에 변하지 않습니다. 절대 그렇지 않습니다. 단기적으로는 삶은 대체로 똑같이 흘러갈 것이며, 2025년의 사람들은 2024년과 거의 같은 방식으로 시간을 보낼 것입니다. 우리는 여전히 사랑에 빠지고, 가족을 만들고, 온라인에서 싸우고, 자연 속에서 하이킹을 하는 등등을 할 것입니다.
그러나 미래는 우리가 무시할 수 없는 방식으로 우리에게 다가올 것이며, 우리 사회와 경제에 대한 장기적인 변화는 엄청날 것입니다. 우리는 새로운 할 일, 서로에게 유용할 새로운 방법, 경쟁할 새로운 방법을 찾을 것이지만, 오늘날의 직업과는 매우 다를 수 있습니다.
대리, 의지, 결단력은 매우 가치가 있을 것입니다. 무엇을 해야 할지 올바르게 결정하고 끊임없이 변화하는 세상을 헤쳐나가는 방법을 알아내는 것은 엄청난 가치를 가질 것입니다. 회복력과 적응력은 키워야 할 유용한 기술이 될 것입니다. AGI는 인간 의지에 대한 가장 큰 지렛대가 될 것이며, 개개인이 이전보다 더 많은 영향력을 갖도록 할 것입니다.
우리는 AGI의 영향이 고르지 않을 것이라고 예상합니다. 일부 산업은 거의 변하지 않겠지만, 과학적 진보는 오늘날보다 훨씬 빠를 것입니다. AGI의 이러한 영향은 다른 모든 것을 능가할 수 있습니다.
많은 상품의 가격은 결국 급격하게 떨어질 것이고(현재 지능 비용과 에너지 비용은 많은 것들을 제한하고 있습니다), 사치품과 토지와 같은 몇 가지 본질적으로 제한된 자원의 가격은 훨씬 더 급격하게 상승할 수 있습니다.
기술적으로 말하면, 우리 앞의 길은 상당히 명확해 보입니다. 그러나 AGI를 사회에 통합하는 방법에 대한 공공 정책과 집단적 의견은 매우 중요합니다. 우리가 제품을 조기에 그리고 자주 출시하는 이유 중 하나는 사회와 기술이 함께 진화할 시간을 주기 위해서입니다.
AI는 경제와 사회의 모든 영역에 스며들 것입니다. 우리는 모든 것이 똑똑해질 것이라고 기대할 것입니다. 우리 중 많은 사람들은 역사적으로 그랬던 것보다 사람들에게 기술에 대한 더 많은 통제권을 부여해야 할 것이라고 예상하며, 더 많은 것을 오픈 소스화하고, 안전과 개인의 권한 부여 사이에 절충점이 있으며 거래가 필요하다는 것을 받아들여야 합니다.
우리는 결코 무모해지고 싶지 않으며 AGI 안전과 관련된 몇 가지 주요 결정과 제한이 인기가 없을 가능성이 있지만, 방향적으로 AGI 달성에 가까워질수록 개인의 권한 부여 쪽으로 더 기울어지는 것이 중요하다고 믿습니다. 우리가 볼 수 있는 다른 가능한 경로는 AI가 전체주의 정부에 의해 대량 감시와 자율성 상실을 통해 인구를 통제하는 데 사용되는 것입니다.
AGI의 이점이 광범위하게 분배되도록 하는 것이 중요합니다. 기술 발전의 역사적 영향은 우리가 중요하게 생각하는 대부분의 지표(건강 결과, 경제적 번영 등)가 평균적으로 그리고 장기적으로 개선되지만, 평등 증가는 기술적으로 결정되는 것 같지 않으며 이를 올바르게 수행하려면 새로운 아이디어가 필요할 수 있음을 시사합니다.
특히 자본과 노동 사이의 힘의 균형이 쉽게 망가질 수 있는 것처럼 보이며, 이는 조기 개입이 필요할 수 있습니다. 우리는 지구상의 모든 사람이 많은 AI를 사용할 수 있도록 "컴퓨팅 예산"을 제공하는 것과 같은 이상하게 들리는 아이디어에 열려 있지만, 단순히 지능 비용을 가능한 한 낮추는 것이 원하는 효과를 가져오는 많은 방법을 볼 수도 있습니다.
2035년의 누구든지 2025년의 모든 사람과 동등한 지적 능력을 발휘할 수 있어야 합니다. 모든 사람은 자신이 상상할 수 있는 모든 방식으로 지시할 수 있는 무제한의 천재성에 접근할 수 있어야 합니다. 현재 완전히 표현할 자원이 없는 많은 재능이 있으며, 이를 바꾸면 세상의 창의적인 결과물은 우리 모두에게 엄청난 이익을 가져다 줄 것입니다.
특히 초고 작성 검토에 도움을 준 Josh Achiam, Boaz Barak 및 Aleksander Madry에게 감사합니다.
*여기서 AGI라는 용어를 사용함으로써 명확하게 소통하고자 하며, Microsoft와의 관계를 정의하는 정의와 프로세스를 변경하거나 해석할 의도는 없습니다. 우리는 Microsoft와 장기적으로 파트너십을 맺을 것으로 전적으로 예상합니다. 이 각주는 어리석어 보이지만, 반면에 일부 언론인들이 어리석은 기사를 써서 클릭 수를 얻으려고 할 것이라는 것을 알고 있으므로 여기서 미리 어리석음을 막고 있습니다…