♾️ 엔비디아는 왜 이리 강한가...'젠슨 황 방식' 대해부

2024. 12. 12.

2024/12/13 금요일

안녕하세요! 딥다이브입니다. 레터 디자인이 2년 2개월 만에 처음 바뀌었습니다(수영복 여인, 안녕~)! 새 디자인 마음에 드시길 바라며. 가보겠습니다, 딥다이브! 🔎

🌏깊이 들어가기 ; 엔비디아 웨이

엔비디아의 모든 것을 만든 CEO 젠슨 황. 기술가이자 사업가, 두 역할을 모두 소화하는 그는 아마도 그 회사에서 가장 열심히 일하는 사람일 것이다. 동아일보DB

‘모두가 열광하는 AI시대의 슈퍼스타’라고 하면 바로 떠오르는 기업이 있죠. AI 반도체 절대강자, 엔비디아(Nvidia)입니다. 세계 시가총액 2위 기업, 지난 2년 주가 상승률 719%, 분기 매출 성장률 491%이란 수치가 이 기업의 위상을 보여주죠.

이토록 놀라운 기록을 쓴 엔비디아는 어떻게 일하는 기업일까요. 1993년부터 지금까지 31년 동안 젠슨 황은 이 회사를 어떻게 이끌고 있을까요. 이와 관련해서 국내에선 이미 많은 책이 쏟아져 나왔는데요. 가장 신뢰할 만한 책이 12월 10일 미국에서 출간됐습니다. 미국 경제지 배런스(Barron's) 시니어 라이터 태 김(Tae Kim)이 쓴 ‘더 엔비디아 웨이: 젠슨 황과 기술 거인의 탄생(The Nvidia Way: Jensen Huang and the Making of a Tech Giant)’입니다. 그는 엔비디아 협조를 받아 회사 공동창업자와 다수의 전현직 임직원, 관련자들을 인터뷰했죠. 물론 젠슨 황을 포함해서요.

이 책은 연대기 순으로 구성됐지만, 몇 가지 중요한 키워드를 뽑아 정리해 봤습니다. 엔비디아가 AI 세상을 지배한 방식, 즉 젠슨 황의 방식을 들여다보겠습니다.

🔎보고서 대신 e-메일

한국이든 미국이든, 대기업이라면 전통적 피라미드형 조직구조를 따르기 마련입니다. 그 정점에 있는 총수와 얼굴을 보며 직접 보고할 수 있는 임원은 극소수이죠. 그 보고 내용은 늘 세심하게 조율됩니다. 너무 잘 다듬어져서 기업의 진짜 문제와 장애물을 숨기곤 하죠.

그래서 젠슨 황은 공식 보고서가 아니라 직원들의 e-메일을 받습니다. 전 직원이 1~2주에 한 번 직속 팀과 임원에게 ‘톱 5’ 이메일을 보내게 하죠. ‘자신의 작업 중인 상위 5가지 사항’과 ‘최근 시장에서 관찰한 사항’에 대해 설명해야 합니다. 물론 수신자엔 젠슨 황이 포함되고요. 엔비디아 초창기, 즉 젠슨 황이 검은색 가죽 재킷을 유니폼처럼 입기 전부터 이어져 온 일입니다.

미국 캘리포니아주 샌타클래라에 있는 엔비디아 본사 '보이저'. 동아일보DB

젠슨 황이 이걸 읽냐고요. 네, 그럼요. 때론 메일을 보낸 지 몇분 만에 답장을 받는 경우도 있습니다. 그래서 직원들은 일부러 일요일 밤늦게 톱5 메일을 보냅니다. 만약 금요일 오후에 보낸다면 한밤중 CEO 답장이 날라와서 주말을 망칠 테니까요. 매주 일요일 밤이면 젠슨 황은 싱글 몰트 위스키 하이랜드 파크 한잔을 마시면서 찬찬히 e-메일을 읽곤 합니다.

젠슨 황은 왜 톱5 e-메일을 좋아할까요. “약한 신호를 감지하고 싶기 때문”이라고 합니다. 그리고 그는 종종 신호를 포착합니다. 예를 들어 머신러닝을 다룬 직원 e-메일 여러 개를 읽은 뒤(모든 메일은 키워드 검색을 위해 주제 태그를 달아야 함), 젠슨 황은 관련 프로젝트에 대한 투자가 충분치 않다고 판단했습니다. 그는 즉시 더 많은 소프트웨어 엔지니어를 추가하라고 지시했죠.

🔎더 평평하게, 더 투명하게

1999년 상장 당시 250명이던 엔비디아 직원 수는 2010년엔 5700명으로 불어납니다. 사무실을 돌아다니며 임원부터 말단 직원까지 모두와 얼굴 보며 일 얘기하길 좋아했던 젠슨 황이지만 그건 어려워졌죠.

그는 피라미드형 조직에 거부감이 큽니다. 이상적인 조직은 훨씬 더 평평해야 한다고 보기 때문이죠. 그래야 독립적으로 일할 만한 역량 있는 인재를 끌어들일 수 있고요. 동시에 일일이 지시받지 않고는 일할 줄 모르는 저성과자는 걸러낼 수 있으니까요.

1993년 공동창업자의 집에서 시작된 엔비디아는 이제 전 세계에 3만명 가까운 직원을 둔 대기업으로 성장했다. 사진은 근무 중인 엔비디아 직원들의 모습. 엔비디아 홈페이지

그래서 엔비디아엔 60명 넘는 e-스태프가 있습니다. CEO와 정기적으로 회의하는 직속 보고자가 60명이 넘는단 뜻이죠. CEO 직속 보고자가 10명이 채 되지 않는 일반적인 미국 대기업과는 대조적입니다.

이 회사엔 1대 1 회의는 거의 없습니다. 보고와 피드백은 60명 넘게 모인 대규모 회의에서 이뤄지죠. 투명하고, 정보가 빠르게 공유됩니다. 전 엔비디아 관리자 앤디 킨은 이렇게 말합니다. “젠슨 황이 임원진에게 말하는 걸 다 함께 들을 수 있습니다. 그것은 모두를 동기화하죠.”

정보가 즉각 공유되고 뭐가 중요한지를 모두가 아니까, 협조는 훨씬 수월합니다. 전 마케팅 임원 올리버 발투흐는 다른 기업과 비교했을 때 “엔비디아의 가장 큰 차이점은 누군가에게 한 번만 요청하면 바로 처리됐다는 점이다. 두번 요청할 필요가 없다”고 말하죠.

🔎파워포인트 대신 화이트보드

엔비디아 사무실과 수십 개 회의실에서 꼭 찾아볼 수 있는 게 화이트보드입니다. 심지어 출장 갈 때도 젠슨 황은 화이트보드를 들고 갈 정도죠. 그는 마커펜은 꼭 대만산 12㎜ 폭의 끝이 납작한 것만 쓴다고 합니다.

엔비디아에서 많은 경우 화이트보드가 파워포인트를 대체합니다. 분기마다 젠슨 황은 수백명 리더를 모아 회의를 여는데요. 모든 총괄 관리자는 화이트보드를 이용해 무슨 일을 하고 있는지, 비즈니스 스토리를 설명해야 합니다. 화려한 파워포인트 없이 하얗게 비어있는 보드 앞에 서야 하는 거죠.

화이트보드는 엔비디아의 독특한 문화를 상징한다. 엔비디아 홈페이지

그럼 파워포인트를 이용해 발표하는 것과 뭐가 다를까요. 예쁜 그래픽과 모호한 텍스트 뒤로 숨을 수가 없게 됩니다. 마커펜 하나에만 의존해서 실시간으로 자신의 사고 과정을 보여줘야 하죠. 내용을 잘 알고 있는지, 논리에 빈틈은 없는지가 적나라하게 드러납니다. 대충 자료로 때울 수가 없죠. 무엇보다 가장 앞줄에서 젠슨 황이 쏘아보고 있을 겁니다. 때론 중간에 뛰쳐나와 본인이 직접 화이트보드에 다이어그램을 그리기도 하죠.

이 책의 저자 태 김은 “엔비디아에서 화이트보드는 의사소통 수단 그 이상의 의미”라고 말합니다. 아무리 훌륭한 아이디어도 결국엔 지워지고, 새 아이디어가 이를 대신하게 된다는 믿음을 보여주죠. 실수든 성공이든, 과거는 돌아보지 않고 미래와 기회라는 빈 칠판에 집중하자. 이게 바로 엔비디아 문화입니다.

🔎미션이 보스다

관료주의의 큰 폐해는 의사결정 속도가 느려질 뿐 아니라, 내부정치가 횡행한단 점입니다. 임원끼린 경쟁관계이고, 각 사업부는 목표를 달성해 자기네 임원을 이기게 만드는 데 사활을 걸죠. 다른 사업부가 잘 안돼야 오히려 득을 보기도 합니다.

내부정치는 젠슨 황이 혐오하는 것 중 하나입니다. “다른 이의 성공을 위해 싸우지 않고 다른 사람의 기회를 박탈하는 리더가 있다면 저는 그냥 큰 소리로 말할 겁니다. 한두 번 그렇게 하면 아무도 다시는 그런 짓을 하지 않겠죠.”

2021년 타임지의 '세계에서 가장 영향력 있는 사람 100인' 중 한명으로 선정됐던 젠슨 황 CEO.

그래서 엔비디아엔 각 사업부의 경로를 가두는 장기 전략 계획이 없습니다. “5개년 계획은 없습니다. 세상은 살아 숨 쉬니까요. 우린 그저 지속적으로 계획할 뿐입니다.”

직원들에겐 ‘미션이 바로 보스(Mission is the boss)'라고 강조합니다. 미션 실현이 목표이지, 조직이나 임원을 보고 일하는 게 아니란 거죠. 그래서 엔비디아에선 모든 새로운 프로젝트를 시작할 때마다 그 책임자(Pilot in Command)를 정하고, 그가 직접 CEO에 보고토록 합니다. 실무 책임자가 임원이나 팀 이름 뒤에 숨지 않게 하죠.

또 미션 달성이 어려움에 처한다면 바로 도움을 요청하게 합니다. 예를 들어 어느 지역 영업 임원이 할당량을 못 채우게 생겼다면, 가급적 일찍 회사에 알려야 하죠. 그럼 회사가 엔지니어링 직원 같은 다른 자원을 투입해 함께 문제를 해결할 테니까요. 도움을 요청하는 게 약점이 되지 않고, 반대로 요청하지 않는 게 문제가 되는 문화입니다. “우리는 함께 일합니다. 아무도 혼자 패배하지 않습니다.”

이 회사에서 임원과 책임자는 공개 질책에 시달릴 각오를 해야 합니다. 젠슨 황은 칭찬에 매우 인색합니다. 과거 업적을 돌아보는 건 기업을 안주하게 만든다고 보기 때문이죠. 대신 질책은 사정없이 쏟아냅니다. 주로 대규모 회의에서 공개적으로 혼내곤 하는데요. 당하는 입장에선 상당한 굴욕이 아닐 수 없는데요.

왜 이렇게 창피를 줄까요. 젠슨 황은 “피드백은 학습”이라고 보기 때문입니다. “왜 그 사람만 배우나요? 그는 스스로 저지른 실수와 어리석음 때문에 상황을 만들었습니다. 우린 모두 거기에서 배워야 합니다.” 참 냉정한데요.

다만 그가 직원들에게만 가혹한 건 아닙니다. 한 엔비디아 임원은 환상적인 분기 실적을 보고하는 회의에서 젠슨 황이 맨 처음 했던 말을 기억하죠. “난 매일 아침 거울을 보면서 이렇게 말해요. 너 진짜 짜증 나(You suck).”

🔎일 중독자 집합소

헌신(dedication)과 근면함(hard work). 엔비디아가 모든 직원에게 요구하는 바죠. 마케팅 책임자인 마이클 하라가 신입사원 오리엔테이션에서 했던 발언입니다. “우리는 매우 공격적입니다. 우리는 일이 잘 안되는 이유에 대한 변명을 찾는 데 시간을 낭비하지 않습니다. 여기 와서, 뒤에 숨어서 월급 받고 5시에 집에 갈 수 있다고 생각했다면 착각입니다. 그렇게 생각했다면 오늘 그만두세요.”

야근, 주말 근무는 일상이고요. 엔지니어 아닌 마케팅 담당자도 주 60시간 이상 근무가 허다하죠. 너무 회사에서 보내는 시간이 많아서 직장에 애를 데리고 출근하는 경우도 드물지 않을 정도입니다.

긴 근무시간에 대한 불평, 당연히 있습니다. 하지만 젠슨 황은 직원에게 이렇게 얘기했죠. “올림픽을 위해 훈련하는 선수들도 이른 아침에 훈련하는 것에 대해 불평합니다.” 국가대표급으로 일에 전념하는 게 당연하다는 압박이죠.

엔비디아는 지난 11월 포브스 선정 '미국에서 가장 일하기 좋은 직장' 1위로 뽑혔다. 엔비디아 제공

그럼 지쳐서 직원들이 대거 떠날 것만 같은데, 신기한 건 그렇지 않단 겁니다. 엔비디아 이직률은 3% 미만으로 매우 낮죠. 왜 그럴까요.

일단 이 회사는 칭찬이 없는 대신, 주식으로 보상을 줍니다. 연간 성과평가에서 ‘우수’ 등급을 받거나 ‘특별기여자’로 선정되면 주식을 몇백 주 주고요. 또는 언제든 훌륭한 일을 해내면 젠슨 황이 바로 연락해서 주식을 주기도 하죠. 철저한 성과기반으로 민첩한 보상이 이뤄지는 겁니다. 특히 주가가 워낙 빠르게 오르면서, 받기로 예정된 주식이 있는 우수한 인재는 회사에 오래 머물게 됐죠.

또 엔비디아는 엔지니어들이 가장 원하는 걸 제공해 주는 회사입니다. 업계의 걸출한 동료들과 함께 세상을 바꿀 만한 위대한 제품을 만드는 거죠. 어떤 엔지니어도 폐기될 게 뻔한 쓸모없는 기술 개발에 몇 년을 허비하고 싶지 않습니다. “(내부 정치 같은) 다른 건 신경 쓰지 않고 기술에만 100% 집중할 수 있다”(전 GPU 설계자 리이 웨이)는 건 기술 업계에서 매력적인 조건이 아닐 수 없습니다. 그렇지 못한 대기업이 많으니까요.

그리고 중요한 건 회사 전체에서 가장 긴 시간, 가장 많이 일하는 사람이 바로 CEO라는 점입니다.

젠슨 황은 영화를 봐도 그 내용을 기억하지 못합니다. 보는 내내 일 생각만 하니까요. 그가 휴가를 떠나면 직원들은 두려워합니다. 호텔 방에 처박혀서 일만 하면서, 평소보다 훨씬 더 많은 e-메일 폭탄을 안기기 때문이죠. 그는 엄청난 일 중독자이고 그 사실을 자랑스러워합니다. “나보다 똑똑한 사람들이 있을지 모릅니다. 하지만 나보다 더 열심히 일하는 사람은 아무도 없을 겁니다.” CEO의 이런 태도는 전염이 되고, 이제 엔비디아의 조직문화 그 자체가 되었죠.

결론적으로 이 책에서 설명한 엔비디아 방식은 결국 젠슨 황 CEO, 그 자체입니다. 젠슨 황이란 인물을 직원 3만명짜리 기업으로 만든 게 엔비디아인 셈이죠. 엔비디아는 전적으로 젠슨 황 리더십에 의존하고 있습니다. 저자인 태 김의 표현대로 “그게 엔비디아의 유일한 실패 지점”입니다. 61세 CEO가 만약 언젠가 은퇴한다면, 그 뒤에도 엔비디아 신화는 이어질 수 있을까요. By.딥다이브

엔비디아는 독특합니다. CEO가 독특하니까요. 젠슨 황의 발언 몇가지를 추가로 소개하며 마무리합니다.

“기대가 매우 높은 사람들은 회복력이 매우 낮습니다. 불행히도 회복력은 성공에 중요합니다. 위대함은 지능이 아닙니다. 위대함은 성격에서 나옵니다.”
“우리는 보기 좋더라도 너무 많은 걸 하는 것보다 적은 걸 잘하는 게 낫다는 걸 깨달았습니다. 아무도 스위스 군용칼을 사러 가게에 가지 않습니다. 크리스마스에 받는 선물이죠."
"우리는 ROI 타임라인이 없습니다. ROI 타임라인이 없고 수익성 목표가 없죠. 우리가 최적화하는 유일한 건 이겁니다. 정말 멋진가? 사람들이 좋아할까?"
“초창기엔 많은 면에서 엉망이었어요. 첫날부터 훌륭한 회사는 아니었죠. 우리는 31년 동안 회사를 훌륭하게 만들었습니다. 우리는 스스로 살아남았어요. 우리는 우리 자신의 최악의 적이었습니다."

오늘 일부 내용을 소개한 '더 엔비디아 웨이' 책은 실제론 훨씬 방대한 내용을 담고 있습니다. 엔비디아의 초창기 역사와 GPU의 탄생, CUDA 플랫폼이 진화한 과정, 그리고 AI와 GPU의 만남까지. 사실상 엔비디아의 거의 모든 것을 담았는데요. 엔비디아와 젠슨 황, 그리고 AI에 관심 있는 분들이라면 추천할 만합니다(아직은 영어책만 있습니다).

저자 인터뷰를 읽으면서 개인적으로는 두가지가 부러웠는데요.

1)책을 쓰는 걸 돕기 위해 엔비디아가 전현직 임원을 적극 섭외해줬다는 점.

2)미국에서 엔비디아라는 기업을 이렇게 파고들어서 쓴 책은 처음이란 점입니다. (와... 대박 나겠네. 부럽다...)

저도 한국의 젠슨 황을 찾아서 책을 써야 겠단 생각을 하며. (한국의 젠슨 황에 가까운 분들 연락 주세요!) 다음주 찾아오겠습니다. 나라 걱정, 경제 걱정 좀 덜 수 있기를 바랄게요! 🌏