편안한 한주 보내셨나요? 지난번 3월 20일 뉴스레터에서는 빈부격차가 정치에 끼치는 영향, 그리고 그 정치가 다시 빈부격차와 경제에 끼치는 영향에 대해 고민해보면서 앞으로 미국 정권은 주식시장에 상대적으로 덜 민감하게 반응하며, 생각보다 긴 기간동안의 리세션의 가능성이 있다고 생각하고, 우리는 지난주 트럼프의 관세를 통해 이 사실을 확인할 수 있었습니다. 참고로 Scott Bessent 미재무부장관도 4월 4일에 Tucker Carlson의 유튜브에서 제가 분석한 자료를 그대로 언급했습니다. 끝으로는 그 환경에서 우리 스타트업들이 어떻게 대비하면 좋을지 생각해보았습니다.
오늘은 오랜만에(?) 인공지능 관련해 영감이 떠올라, 인공지능의 현실과 앞으로의 방향성에 대해 정리해보려고 합니다. 본론부터 말씀드리자면, "이번 세대 인공지능은 지능이 아니라 인터페이스"라는 점이 핵심입니다. 이 관점에서 인공지능의 미래와 현재의 인공지능 버블을 함께 살펴보겠습니다.
인공지능의 현실: 혁신과 버블 사이
저는 2022년부터 제 뉴스레터에 꾸준히 "인공지능은 대단하고 세상을 바꿀 것이지만 그 버블이 어마어마하다"라는 입장을 지켜왔습니다. 실제로 인공지능은 Cursor와 같은 역사상 가장 빠르게 성장하는 회사도 탄생시켰고, 지금 소셜미디어를 휩쓸고 있는 "지브리화"도 이뤄냈으며, 우리는 모두 Claude나 Perplexity 혹은 ChatGPT를 매일매일 쓰고 있습니다.
다만 동시에 그 실제 유용성이나 제한에 비해서 아직도 실리콘밸리에서는 인공지능이 사실상 종교나 다름없습니다. 모든 스타트업이 AI를 외치고, 벤처 투자자들은 AI라는 단어가 붙은 곳이 아니면 쳐다보지도 않죠. 일론 머스크나 샘 알트만은 여전히 올해나 내년이면 AGI가 등장해서 우리 모두를 대체할 것처럼 호들갑입니다.
위의 트윗을 보시면 아시겠지만 Sam Altman, Dario Amodei, Elon Musk 등은 AGI가 정말 곧 일어날 것처럼 이야기합니다. 여러 번 말씀드렸지만 인공지능 사업은 굉장히 비용이 많이 들어가는 사업이기 때문에 이 사람들의 인센티브는 경쟁사들보다 돈을 많이 모아서 더 빠르게, 더 크게, 더 새로운 것을 만드는 것에 있습니다. 그렇다 보니 인공지능의 성능을 실제보다 더 부풀리는 것이 이들에게는 유리하고, 틀리면 "우리가 생각하는 AGI의 정의는 다르다" 혹은 "가능성을 이야기한 거다" 혹은 "내년에는 꼭 될 거다"라면서 골포스트를 옮겨버리면 되는 겁니다.
물론 저보다 뛰어난 전문가들이지만 그들의 인센티브를 고려하고 자료들을 분석하다 보니, 저는 이번 세대의 인공지능에는 명확한 한계가 있다고 생각하기 때문에 인공지능이 모든 걸 해결해 줄 것 같이 hype과 FOMO를 만드는 사람들을 경계해야 한다고 생각하고 여러 번 관련 글을 썼습니다.
그러던 중 최근 이번 세대 인공지능을 가장 잘 정의하는 말이 무엇일까라는 고민을 해봤는데 "이번 '인공지능'은 지능이 아니라 인터페이스이다"라는 결론을 내렸습니다. 사실 이런 맥락의 글도 예전에도 썼었는데, 최근 인공지능 씬의 흐름을 보면서 더욱더 확신이 생겨 오늘 정리해보려고 합니다.
이번 세대 인공지능: 똑똑한 척하는 인터페이스?
거대 언어 모델, LLM은 방대한 양의 데이터를 학습하여 인간의 언어를 흉내 내는 데 탁월한 능력을 보여주기 때문에 얼핏 보면 인공지능이 우리의 말을 알아듣고 사고하고 추론하여 결과를 제시하는 것으로 보입니다. 하지만 자세히 파고들어 보면, 진정한 지능과는 거리가 멀다는 사실은 명백합니다. 오히려, 이번 인공지능은 우리가 오랫동안 축적해 저장해둔 지식을 꺼내오고 활용하는 방식을 혁신하는 새로운 인터페이스라고 보는 것이 더 정확하다고 생각합니다. 물론 "GPT-5는 GPT-4보다 훨씬 더 정확하지 않은가?"라는 반론도 있을 수 있습니다. 맞습니다. 기술적으로 발전하고 있지만, 그 발전은 여전히 다음에 설명할 근본적인 한계 내에서 이루어지고 있습니다.
1. 정확성의 부재: 환각으로 거짓말하는 인공지능
가장 명확한 한계 중 하나는 인공지능이 종종 '환각'이라고 불리는, 사실이 아닌 정보를 생성한다는 점입니다. 오래된 환각 증상으로 인한 사건들의 몇 가지는 해결되었지만, 여전히 요즘도 비슷한 일들이 벌어지고 있습니다. 2023년 한 변호사가 ChatGPT를 이용하여 법원에 제출할 소송 자료를 만들었는데, 그 안에는 존재하지 않는 판례와 법률 인용이 가득해서 판사에게 경고를 받았다는 사건 기억하시죠? 위의 기사에서 보시다시피 이 문제는 3년이 지난 지금 2025년에도 여전히 해결되지 않은 문제로 남아있습니다.
또 다른 예시는 2025년 3월에 한 사용자가 자신에 대한 정보를 ChatGPT에 요청했을 때, ChatGPT는 그 사용자를 두 자녀를 살해하고 세 번째 아들을 살해하려 한 혐의로 21년형을 선고받은 유죄 판결을 받은 범죄자로 허위로 제시했습니다. 더욱 심각한 것은 이 허위 이야기에 사용자의 실제 자녀 수, 성별 및 고향 이름과 같은 개인 정보의 실제 요소가 포함되어 있어 환각이 현실과 비슷해서 혼란을 일으킬 수 있고 개인정보마저 유출될 수 있기 때문에 굉장히 위험한 사례라고 생각됩니다.
The U.S. market revenue increased from $1.1 billion in 2010 to an estimated $21.3 billion in 2023
제가 직접 고통받고 있는 인공지능 환각도 하나 소개해드리겠습니다. 제가 deep research를 쓸 때 매번 발생하는 문제인데, 잘못된 통계를 가져오는 경우입니다. 미국의 medical spa(한국의 피부과와 에스테틱 사이)들의 매출이 2010년 $1.1B에서 2023년 $21.3B으로 성장했다는 분석을 제공해줬는데, 솔직히 어느 정도 가능한 일이기도 하고 너무 자신감 있게 말해서 믿을 뻔했지만 소스를 확인해보니 2010년 수치도 틀렸고 업계도 medical spa가 아니라 그냥 마사지를 하는 spa 업계에 대한 데이터를 가지고 와서 당황한 적이 있습니다. 저는 항상 숫자 관련해서는 기본적으로 틀렸다고 가정하고 하나하나 전부 체크를 하고 또 있지도 않은 URL이나 잘못된 유명인의 quote을 가지고 오는 황당한 경우도 종종 있습니다.
이러한 환각 현상은 인공지능이 학습 데이터에서 패턴을 파악하여 텍스트를 생성하는 과정에서 발생하고, 그럴듯하게 보이지만 실제로는 부정확하거나 완전히 허구인 정보를 만들어냅니다. 이처럼 겉보기에는 유창하지만 사실은 틀린 정보를 생성하는 능력은 인공지능이 진정으로 내용을 이해하고 판단하는 것이 아니라, 단순히 단어의 연관성을 기반으로 텍스트를 생성한다는 것을 명확히 보여준다고 생각합니다.
2. 창의력의 부재: 새로운 생각을 할 수 없다
인공지능 모델은 방대한 데이터를 학습하여 기존의 스타일을 모방하거나 변형할 수는 있지만, 인간의 창의력처럼 감정, 직관, 경험에서 비롯되는 독창적인 아이디어를 만들어내지는 못합니다. 다시 말해 인공지능이 사진을 지브리 스타일로 만들어줄 수는 있지만 지브리 스타일 자체는 창조하지 못한다는 말입니다.
곰곰히 생각해보면 우리가 인공지능에게 "인류가 보지 못했던 것을 창조해줘", "상상하지 못한 것을 만들어줘"라고 했을 때 그 결과물은 결국 우리 인간들이 "상상하지 못한 것", "한 번도 본 적이 없는 것"이라고 정의한 것들, 그렇게 태그된 자료를 기반으로 재생성해낸 결과물이 아닐까 생각합니다.
따라서 인공지능이 창의적인 작업에서 인간의 잠재력을 증폭시키는 도구 역할을 할 수 있지만, 전체적으로 완전히 새로운 아이디어를 생성하는 능력에는 여전히 한계가 있다고 생각합니다. Canva의 2024년 보고서에 따르면, AI가 많은 일상적인 작업을 자동화함에 따라 창의성과 같은 고유한 인간의 기술이 그 어느 때보다 중요해지고 있으며, AI 툴을 활용하는 디자이너와 크리에이터는 자신만의 독창적인 접근방식을 개발하는 데 더 많은 시간을 투자하고 있습니다.
3. 추론 능력의 부재: 수학도 정답을 검색할뿐
2025년 USAMO(미국 수학 올림피아드) 문제를 대상으로 한 평가에서, 최첨단 추론 모델들은 평균 5% 미만의 낮은 정답률을 보였습니다. 이는 다른 수학 벤치마크에서 최고 수준의 인간 경쟁자와 비슷한 성능을 보였던 것과는 대조적입니다.
이번 결과가 재미있는 건 2025 USAMO 문제가 인공지능 모델들에 의해 트레이닝되기 전에 바로 테스트를 해본 것이라는 부분과 수치적 답변만 체크하는 게 아니라 논리적 증명을 체크한다는 점입니다. 따라서 이 결과는 이전 벤치마크들과는 다르게 문제와 정답이 사전에 모델에 노출되었을 확률이 없고 답변만 찾는 것이 아니라 추론 과정을 체크하는 만큼 현재 LLM이 엄격한 수학적 추론 작업에 여전히 부적합하며, 논리적 오류, 부당한 가정 및 추론의 창의성 부족과 같은 한계를 명확히 보여준다고 생각합니다.
한 가지 더 재미있는 사건은 "OpenAI가 '테라노스'했다"고 놀림받는 사건인데 OpenAI가 o3모델이 리서치 수준의 수학 벤치마크를 운영하는 Epoch의 Frontier Math에서 다른 모델들의 2% 정답률을 넘어서서 25%의 정답률의 압도적인 성능을 자랑하면서 야심차게 발표했었습니다. 하지만 알고 보니 Frontier Math의 투자자가 OpenAI였고, OpenAI는 그 문제들에 접근이 가능했다는 것이 밝혀졌습니다. 더군다나 그 사실을 o3모델 발표 전까지 공개하지 못하도록 제한했었다는 사실이 알려지면서 이 25%의 결과도 믿을 수 없다는 게 시장의 분위기입니다.
인공지능은 당신을 대체할 수 없다. 하지만 인공지능을 잘쓰는 인간이 당신을 대체할 것이다.
2015년의 일론은 완전 자율주행은 2년 만에 이루어질 것이라고 했었고, 제프리 힌튼 교수는 방사선과 의사가 5년 안에 사라질 것이라고 말했었습니다. 하지만 지금 2025년에도 방사선과 의사들은 직접 운전을 해서 출근을 하고 있죠. 아쉽게도 전문가들의 호언장담에도 불구하고, 현실에서는 아직 인공지능이 사람들을 대체하지 못하고 있습니다.
실제 McKinsey의 2024년 보고서에 따르면, AI 기술이 많은 산업에 도입되었지만, 대부분의 경우 인간 노동자를 완전히 대체하기보다는 보완하는 방식으로 활용되고 있습니다. 특히 복잡한 판단이 필요한 의료, 법률, 교육 분야에서는 AI가 정보 제공과 반복 작업 자동화에 도움을 주지만, 최종 의사결정은 여전히 인간 전문가의 역할로 남아있습니다.
이처럼 더 많은 이유가 있겠지만 최소한 정확도, 상상력, 추론 능력의 부재로 저는 이번 세대 인공지능이 인간을 대체할 수 없다고 생각합니다. 다만 한 가지 확실한 건 여러분들도 느끼듯이 인공지능은 아주 좋은 인터페이스라는 것입니다.
인공지능은 인류가 쌓아온 지식을 연결해주는 인터페이스
결국, 현재 세대의 인공지능은 스스로 생각하고 판단하는 지능이라기보다는, 인간과 인류가 오랫동안 쌓아온 방대한 지식의 보고를 연결해주는 매우 강력한 인터페이스라고 보는 것이 합리적입니다. 마치 인터넷 검색 엔진이 웹페이지라는 정보의 바다를 항해하도록 돕는 것처럼, 인공지능은 텍스트, 이미지, 오디오 등 다양한 형태의 지식에 더 쉽고 빠르게 접근할 수 있도록 해주는 도구입니다. AI는 사용자 입력과 의도를 이해하고 솔루션을 제공하여 필요한 단계를 줄이는 궁극적인 인터페이스 역할을 할 수 있습니다. AI는 데이터에 대한 액세스를 제공하고 학습을 통해 유용한 작업으로 전환함으로써, 우리가 기술과 상호 작용하는 방식을 혁신하고 있습니다.
역사적으로 더 좋은 도구를 더 잘 사용하는 인간의 승리
당연한 이야기지만 같은 사용 능력을 가진 인간이라면 돌도끼를 가진 인간보다 강철 검을 가진 인간이 승리할 가능성이 높고, 사용 능력이 모자라더라도 더 좋은 도구를 가진 인간은 생존하고 승리합니다. 최신 전투기나 최신 잠수함을 가진 국가가 다른 국가들보다 더 승리할 확률이 높은 것도 마찬가지이고요. 이처럼 더 좋은 도구를 더 잘 사용하는 인간은 언제나 살아남고 승리합니다.
컴퓨터와 인터넷: 최고의 도구
컴퓨터와 인터넷은 인류가 발명한 가장 강력한 도구 중 하나입니다. 이 두 가지 기술은 이미 우리의 삶과 일하는 방식을 근본적으로 변화시켰으며, 앞으로도 그 영향력은 더욱 커질 것입니다. 인터넷 연결은 생산성을 높이고 협업을 개선하며 새로운 시장 기회를 창출하는 데 중요한 역할을 합니다.
인공지능 인터페이스를 통해 컴퓨터를 더 잘 사용하는 인간의 승리
인공지능은 컴퓨터와 인터넷이라는 이미 강력한 도구를 더욱 효과적으로 사용할 수 있도록 돕는 새로운 인터페이스입니다. 인공지능은 반복적이고 지루한 작업을 자동화하고, 더 빠르고 효율적으로 수행할 수 있도록 하여 인간의 생산성을 대폭 상승시키고 있으며, 우리는 자연어 명령만으로 복잡한 작업을 수행하고, 방대한 데이터에서 필요한 정보를 더 빠르게 찾을 수 있게 되었습니다.
결국, 인공지능 시대의 승자는 인공지능 자체를 개발하는 사람이 아니라, 인공지능이라는 인터페이스를 능숙하게 활용하여 컴퓨터를 더 잘 사용하는 인간이 될 것입니다. 다시말해 인공지능은 당신을 대체할 수 없습니다. 하지만 인공지능을 잘 쓰는 인간은 당신을 대체할 것입니다. 미래 시대의 경쟁력은 인공지능 자체를 얼마나 잘 개발하느냐가 아니라, 이 강력한 도구를 얼마나 효과적으로 활용하느냐에 달려 있습니다.
지금이야말로 인공지능의 황금기의 시작
저는 기술의 발전이 계단식으로 이루어진다고 생각합니다. 더 정확하게는 계단을 올라가는 큰 혁신과 그 계단 내에서 이루어지는 작은 혁신들이 모여서 기술이 발전해 나간다고 생각합니다. 이번 세대 인공지능은 GPT를 통한 큰 혁신 이후에 다양한 작은 혁신들이 쌓여가고 있습니다.
그렇기때문에 동시에 저는 우리가 지난 2년동안 인공지능의 폭발적인 성장을 보아왔기때문에 그 성장의 velocity가 계속 유지되어 이대로 AGI에 갈수있다는 생각에는 동의하지 않습니다. 결국 지금의 status quo를 벗어나려면 계단을 올라설수있는 큰 혁신이 더 필요하고 아직까지는 그것이 우리의 시야에는 들어오지 않았다고 생각합니다.
스탠포드 HAI 2025년 리포트에 따르면, 현재 인공지능 기술은 성능 향상 곡선이 평평해지는 "수렴 단계"에 접어들고 있습니다. 이는 현재의 아키텍처가 가진 기술적 한계에 가까워지고 있다는 신호이지만, 동시에 기술이 안정화되어 실용적인 응용이 폭발적으로 늘어날 수 있는 최적의 순간이라는 의미이기도 합니다.
이 단계에서는 완전히 새로운 혁신보다는 기존 기술의 실용화와 최적화가 이루어지며, 바로 이 시점이 기술이 사회적, 경제적 가치를 창출하는 황금기가 됩니다. 역사적으로 인터넷과 모바일 기술도 이러한 수렴 단계에서 가장 큰 경제적 가치를 창출했습니다.
그 말은 지금이야말로 인공지능을 이용해 좋은 제품들을 만들거나 혹은 좋은 제품들을 만들기 편하게 해주기 최고의 타이밍이 아닐까 생각합니다. 이런 제품들을 만드시는 대표님들의 연락을 저는 언제나 기다리고 있습니다 (요즘 실리콘밸리에 진출하는 분들도 많고 행사도 많다 보니 이메일이 너무 많이 와서 답변이 많이 늦거나 놓치고 있습니다 ㅠㅠ 양해 부탁드립니다)
저도 개인적으로 바이브코딩으로 앱을 하나 만들기 시작했는데 그 이야기도 다음에 좀 더 써보고 함께 만드실 분들도 구해보도록 하겠습니다 ㅎㅎㅎ
오늘도 읽어주셔서 감사합니다!
(번외) 다른 VC들은 멍청하고 너만 똑똑하냐?
다른 더 똑똑한 VC들은 인공지능이 인간을 대체한다고 투자하는데 왜 너만 다른소리하냐라고 물으신다면…
AGI 논쟁은 항상 전제가 다 달라서 의미가 없다고 봐요. 인공지능이냐 아니냐의 문제는 인간을 어떻게 보느냐에 따라 다른 것 같습니다. 인간의 지능, 인간의 인지, 이런 것들을 명확히 알지도 못하는 상황에서 인간의 대체성을 논하기가 어렵다고 봅니다. 그것을 규정할 수 있는지조차 불확실 하고요. 단지 이 기술이 무엇을 할 수 있느냐에 집중하는 것이 맞다고 봅니다.
AGI 가 금방 온다, 늦게 오더라도 스케일업하면 된다: 이미 인간 자체를 확률적 앵무새로 보고 있음.
현재 ai란 인터페이스를 잘 사용할 인류가 결국 살아남고, 살아남은 인류들에서 더욱 큰 발전을 하겠군요. 바이브코딩으로 어떤 결과물을 만들어내실 지 너무 기대됩니다.
AGI 논쟁은 항상 전제가 다 달라서 의미가 없다고 봐요. 인공지능이냐 아니냐의 문제는 인간을 어떻게 보느냐에 따라 다른 것 같습니다. 인간의 지능, 인간의 인지, 이런 것들을 명확히 알지도 못하는 상황에서 인간의 대체성을 논하기가 어렵다고 봅니다. 그것을 규정할 수 있는지조차 불확실 하고요. 단지 이 기술이 무엇을 할 수 있느냐에 집중하는 것이 맞다고 봅니다.
AGI 가 금방 온다, 늦게 오더라도 스케일업하면 된다: 이미 인간 자체를 확률적 앵무새로 보고 있음.
AGI 아예 안오거나, 구조 자체를 바꿔야 한다: 인간을 확률적 앵무새로 안 봄.