Java를 만든 전설적 프로그래머 제임스 고슬링의 생성형 AI 에 대한 생각
Length: • 4 mins
Annotated by Keaton Choi
GenAI에 대한 견해
GenAI는 세상의 모든 문제를 해결할 수 있는 기술 세계의 최신 "마술 지팡이"이 된 것 같습니다. 저는 이를 다르게 봅니다. 저는 흔히 "GenAI에 대해 어떻게 생각하세요?"라는 질문을 받습니다. 이 질문은 단순해 보이지만 많은 복잡한 함의를 가지고 있습니다.
기술
기술은 해결책의 일부일 뿐이며, 그것도 쉬운 부분입니다: GenAI는 대규모 언어 모델(LLM)을 사용하며, 이는 기계 학습이라는 연구 분야의 일부입니다. 이러한 LLM은 고급 통계 기법과 대규모 수학적 계산을 포함합니다. 이 기술들은 매우 인상적이고 강력하며 여전히 집중적인 연구 주제입니다. 이들은 매우 실제적이지만 사기꾼들의 과장된 선언과는 일치하지 않습니다.
모든 도구와 마찬가지로 적절하게 사용되어야 합니다. 이 분야의 초기에는 LLM의 약점을 설명하기 위해 확률적 앵무새(Stochastic Parrot) 은유가 사용되었습니다. LLM은 절대적인 의미에서 "이해"하거나 "추론"하지 않습니다. LLM의 "진실" 수준은 통계적입니다. 이 비판은 여전히 유효합니다. 물론, 통계를 넘어서기 위해 많은 작업이 이루어졌습니다만 아직도 해야 할 일이 많습니다.
통계 모델은 훈련 데이터를 기반으로 작동하며, 이는 훈련 데이터를 반영하는 광범위한 통계 데이터 세트로 소화됩니다. 훈련 데이터에 필터링되지 않은 소셜 미디어 게시물, 여성 혐오, 인종차별(다른 많은 부적절한 행동들 중에서)이 포함되어 있다면, 이러한 요소들이 모델에 구워져 들어갈 것입니다. 만약 훈련 데이터에 변호사와 법학도들의 대화가 포함되어 있다면, GenAI 도구는 아마도 LSAT 문제에 대한 답변을 생성하는 데 매우 뛰어날 것입니다. 하지만 LSAT 문제에 답하는 것이 변호사가 되는 것과 같지는 않습니다.
인공지능은 1956년에 용어가 만들어지기 전까지도 오랜 역사를 가지고 있습니다. 우리는 심지어 인간 지능의 진정한 경쟁자가 될 수 있는 것을 테스트할 간단한 방법도 없습니다. 1950년 앨런 튜링은 튜링 테스트라고 불리게 된 것을 제안했습니다: 후보 지능과 대화를 나누면서 그것이 인간인지 구별할 수 없다면 그것은 진정한 AI입니다. 튜링 테스트의 결함은 인간이 속기 쉽다는 것입니다. 1965년 조셉 바이젠바움은 엘리자라는 프로그램을 작성했는데, 이는 정신과 의사의 간단한 시뮬레이션이었습니다. 많은 사람들이 엘리자와 상호작용했고, 다른 쪽에 실제 인간이 없다는 것을 깨닫는 데 시간이 걸렸습니다. 엘리자가 무엇인지 알게 된 후에도 사람들은 종종 그것이 도움이 된다고 느껴 대화를 계속했습니다. GenAI 시스템과의 텍스트 대화는 터보차지된 엘리자와의 대화처럼 느껴지며, 본질적으로 그렇습니다. 그러나 질문이 더 복잡해질수록 답변의 오류 가능성이 높아지고, 때로는 그 오류가 우스꽝스러울 수 있습니다. 때로는 전문가만이 오류를 식별할 수 있습니다. GenAI는 복잡한 문제를 해결하는 데는 놀랍도록 무용하지만, 기본적인 고객 지원과 같은 간단한 작업에는 적합합니다. 예를 들어, 단순한 질문에 대해 하나의 답변만 제공하는 정도의 기능은 충분히 수행할 수 있습니다. 이는 마치 제한된 검색 결과를 제공하는 단순화된 검색 엔진과 비슷합니다.
과대 선전
AI라는 용어는 수년간 많은 기술에 붙여졌습니다. 비전문가들은 항상 그 능력을 과대평가합니다. 왜냐하면 그들의 마음에 떠오르는 것은 영화와 책에서 수십 년 동안 나온 허구, 즉 인간보다 우수한 일반 지능이기 때문입니다. 미디어와 분석가들은 AI에 대해 숨을 헐떡이며, C급 임원들을 포함한 많은 사람들이 이 소용돌이에 휩싸입니다. 때로는 C급 임원들이 더 잘 알면서도 미디어와 분석가들에 의해 "GenAI 전략"에 계속 갇히게 됩니다.
그리고 여기에 벤처 캐피탈리스트들의 역할도 빼놓을 수 없습니다. 흔히 그들이 혁신을 추구한다는 인식이 있지만, 실상은 다릅니다. 그들의 주된 목표는 당연하게도 수익 창출입니다. 이로 인해 그들은 종종 투자 유치를 위해 그저 그날의 유행을 맹목적으로 쫓아갑니다. 그 다음엔 투자금을 회수하기 위한 출구 전략을 필사적으로 모색하죠. 이 과정에서 우연히 건실한 기업이 남게 되는 경우도 있지만, 그것은 부수적인 결과일 뿐입니다. 최근 그들은 GenAI 기업들에 엄청난 자금을 쏟아붓고 있습니다. VC들의 이런 행태는 너무나 획일적입니다. 그들은 유행을 쫓느라 제대로 된 실사도 하지 않은 채 투자를 감행합니다.
AI는 지속적으로 과장된 기대와 실망의 순환을 겪어왔습니다. 하지만 이는 AI에만 국한된 현상은 아닙니다. 다른 기술 분야에서도 비슷한 일이 일어나곤 합니다. 가장 최근의 극단적인 예로 암호화폐를 들 수 있죠. 암호화폐는 과대 선전을 넘어 폰지 사기와 자금 세탁의 수단이라는 추가적인 문제까지 안고 있었습니다. GenAI는 이에 비하면 훨씬 더 신뢰할 만한 기술이지만, 윤리의식이 결여된 사람들은 어떤 기술이든 악용할 방법을 찾아낼 것입니다.
다행히도, 과대 선전은 조금씩 누그러지기 시작하고 있습니다. GenAI가 세상의 모든 문제를 해결할 것이라고 주장하는 숨 가쁜 마케팅이 후퇴하기 시작했습니다. 저는 심지어 거품의 가능성을 언급하는 기사를 가끔 봅니다. 물론 거품입니다. 하지만 여전히 꽤 강렬합니다.
종말
이번 기술 과대 선전 주기에서는 GenAI가 전능해지고 인류 문명의 몰락을 가져올 것이라는 온갖 추측이 있었습니다. 이는 단순히 어리석은 말입니다: 그것은 거대한 행렬을 곱할 수 있는 능력이 인류를 끝낼 것이라고 말하는 것과 같습니다. 만약 AI가 인류를 종말로 이끄는 데 관여한다면, 그것은 어떤 바보 같은 인간이 무장한 드론 항공기를 만들고, 그것들에게 자율적인 살상 권한을 주고, 자동화된 수리 및 재급유 시설을 제공하는 것이 좋은 생각이라고 결정했기 때문일 것입니다. 우리는 이런 영화를 봤습니다. 이상하게도, 저는 한 번 이것을 만들 팀에 합류하라는 제안을 받은 적이 있습니다. 그들은 좋은 말로 포장했지만, 그것은 스카이넷이었습니다.
AI 기술이 맞이할 수 있는 또 다른 운명이 있습니다. 비록 앞서 언급한 것보다는 덜 극단적이지만, 오히려 더 현실적으로 일어날 수 있는 시나리오입니다. 그것은 바로 기술이 흔히 겪는 '거품 붕괴'입니다. 과대 평가된 기대치를 충족시키지 못하면, 기술 자체가 실패의 원인으로 지목되어 버림받는 경우가 많죠. 하지만 GenAI 기술은 실제로 매우 유용한 응용 분야들이 있습니다. 우리는 이런 가치 있는 기술을 섣불리 포기해서는 안 됩니다.
더 시급한 문제는 GenAI가 아닌 다른 모든 기술 분야에서 일어나고 있습니다. 투자금이 급격히 줄어들고 있는 것입니다. 벤처 캐피탈, 대형 기술 기업들, 그리고 그들의 고객사들이 GenAI로 투자 방향을 급선회하고 있습니다. 이런 상황에서 엔지니어들은 자신들의 프로젝트에 자금을 유치하려면 어떻게든 GenAI 요소를 끼워 넣어야 한다는 것을 빠르게 깨달았습니다. 이는 분명 바람직하지 않은 현상이지만, 인간은 생존을 위해 시스템을 교묘히 이용하는 방법을 항상 찾아내곤 합니다.
아마도 가장 우려되는 시나리오는 마케팅 담당자들이 "GenAI를 도입하면 얼마나 많은 인력을 줄일 수 있는지 생각해보세요!"라고 홍보하기 시작하고, 고위 경영진들이 이에 귀를 기울이기 시작할 때일 것입니다.
GenAI/LLM 과대 선전 거품이 터질 때, 저는 기술도 함께 사라지지 않기를 바랍니다. 적절하게 사용될 때 그것은 꽤 멋집니다.
원문
https://www.linkedin.com/pulse/thoughts-genai-james-gosling-nab0c/
GenAI가 과장되거나 시장에서 지나치게 주목받을수록 이익을 보는 사람들이 있습니다.
이들은 종종 GenAI를 과하게 신격화하는 경향이 있습니다. (물론 제가 틀릴 수도 있습니다.)
하지만 제임스 고슬링처럼 기술에 대한 깊은 이해를 가진 사람들
(제임스 고슬링보다 기술에 대한 이해가 깊은 사람이 세상에 몇명이나 있을까요?)
그리고 GenAI가 잘 되든 말든 큰 영향을 받지 않는
중립적인 사람들의 의견에 더 주목할 필요가 있다고 생각합니다.
James Gosling 의 생각이 GenAI 에 대한 제 생각과 가장 비슷합니다.
물론 저는 미래가 정해져 있지 않다고 생각하고 있으며
언제든 기술의 발전, 상황의 변화에 따라 생각을 바꿀 것입니다.
그리고 한쪽으로 치우치지 않기 위해
이 부분에 대해 다양한 전문가들의 의견들을 꾸준히 다룰 예정입니다.