하이닉스 2분기 디램마진 90% & 쏟아지는 AI 주권에 대한 이야기들.

수많은 지원자 속에서 신호를 찾기 위해, 우리는 에이전트 네이티브 회사에서 일하는 엔지니어에게 오늘날 어떤 역량이 중요한지 깊이 고민했다. 아무도 코드를 한 줄씩 수동으로 작성하지 않는 상황에서, 전통적인 Leetcode식 질문은 물론 시스템 설계 질문조차 실제 업무 성과와 별로 상관없게 느껴졌다. 결국 우리는 지원자가 자신이 놓인 환경을 얼마나 빠르게 이해하고, 풀 가치가 있는 문제를 식별하며, 기존 환경의 제약 속에서 그 문제를 얼마나 잘 실행해 해결하는지를 측정하는 일련의 인터뷰에 도달했다.

가장 중요한 역량은 문제 선택과 자원 배분에 관련된 역량이 될 것이다. 점점 더 강력해지는 에이전트들은 복잡하지만 잘 정의된 문제를 맡을 수 있다. 따라서 가장 큰 임팩트를 내는 사람들은 중요한 문제를 가장 잘 식별하고, 그 문제를 해결하기 위해 토큰과 시간을 가장 잘 배분하는 사람들일 것이다.

나는 학생들이 에이전트가 자신의 문제 세트를 모두 풀 수 있다는 사실에 낙담하는 경향을 본다. 하지만 인터뷰를 진행해본 내 경험상, 지원자들은 해답에 도달하기까지 필요한 시간과 토큰의 양에서 여전히 매우 큰 차이를 보인다. 뛰어난 지원자들은 보통 에이전트와 협업할 때 높은 수준의 직관과 외부 맥락을 가져온다.

구체적으로, 우리가 높게 평가한 지원자들은 자신만의 열정 프로젝트를 통해서든, 의미 있는 문제가 사람 수보다 많은 고성장 회사에서 일하면서든, 문제 해결 환경에 깊이 몰입해온 사람들이었다.

지난 10년 동안 연구에서 가장 유용했던 사고 프레임워크 중 하나는 “쓴 교훈(bitter lesson)”이었다. 일반적인 방법을 스케일링하는 것이 결국 과제별 최적화를 능가한다는 교훈이다. 이 교훈은 문제와 회사를 선택하는 데도 적용된다.

회사와 커리어의 결과는 늘 멱법칙을 따랐지만, AI는 그런 결과로 향하는 진행 속도를 가속했다. 이제 소프트웨어를 만드는 일이 훨씬 쉬워졌기 때문에 누구나 비교적 쉽게 단순한 시스템을 만들 수 있다. 진짜로 지속 가능한 가치는 정말 야심 찬 문제에 극도로 집중할 때만 만들어진다.

회사를 고르는 조언은 간단하다. 그 회사가 자기들이 다루는 문제의 가장 야심 찬 형태에 도전하고 있는지 평가하라. 그리고 실제로 그것을 해결할 가능성이 있는지 보라. 역할을 고를 때는, 그 역할이 회사가 풀고 있는 문제의 최전선에서 직접 일하게 해줄지 생각하라.

스타트업과 관련해 Alfred Lin은 마지막 10%가 일의 90%이자 보상의 90%라는 훌륭한 글을 쓴 적이 있다. AI는 결과를 양극화했다. 중간값의 결과는 대충 쓴 프롬프트로도 에이전트가 만들어낼 수 있는 것이기 때문이다. 따라서 가치는 문제의 특정 영역에 대한 독특한 관점이나 디테일에 대한 집요한 주의에서 나온다.

마지막 1마일을 잘 실행하는 법을 배우려면 연습과 집중이 모두 필요하다. 어떤 것도 첫 시도에 완벽하지 않기 때문에, 마지막 1마일은 대개 반복의 문제다. 코딩 에이전트의 발전이 너무 빠르기 때문에, 이전 반복에서 배운 것을 가져와 다음 세대의 지능으로 처음부터 다시 시작하는 편이 더 나을 때가 많다. 자신의 프로젝트에서 이것을 연습하라. 조금 더 시간을 들여 다듬기, 깔끔한 아키텍처, 확장성, 창의성에 신경 쓰는 주도성을 가져라. 나는 실제로 이런 경험을 한 지원자들에게서 그 영향이 드러나는 것을 분명히 봤다.

축구에서 xG(expected goals, 기대 득점)는 한 팀이 경기에서 얻은 기회를 바탕으로 몇 골을 넣을 것으로 기대되는지 나타내는 지표다. 거리, 각도, 골키퍼 위치 등을 반영한다. 효율은 이러한 기회를 실제 득점으로 전환하는 상대적 비율이다.

내 커리어에 xG와 효율이라는 비유를 적용해보면 꽤 정확했다. 2023년에 나는 Anthropic(당시 정규직 약 50명)과 Cursor(당시 창업자를 제외한 정규직 2명)의 제안을 거절했다. DeepMind에서 프런티어 모델 추론과 학습을 하고 싶었기 때문이다. 2024년에는 OpenAI에서 일하기 위해 두 기회를 다시 거절했다. 커리어 관점에서 각각의 대안은 높은 xG를 가진 기회였겠지만, 나는 내 관심사, 문화적 적합성, 목표와 더 잘 맞는 회사를 선택했다.

커리어는 길고, 기회는 오고 간다. 나는 ASI가 지식 노동 직무의 모든 인간을 대체할 것이라고 믿지 않는다. 인간은 ASI가 풀어야 할 의미 있는 문제를 선택하고, 그 문제를 해결하기 위해 자본을 배분하는 데 차별적 역량을 가지고 있기 때문이다.

모든 기회가 골로 이어지는 것은 아니지만, 기회를 볼 수 있는 올바른 위치에 서는 것이 득점의 첫 단계다. 이것 역시 평판과 전문성으로 귀결된다. Cursor 기회는 Michael과 Aman을 함께 아는 지인들 사이에서 내 평판이 좋았기 때문에 왔고, Anthropic 기회는 내가 그 팀이 흥미로워할 만한 문제에 직업적으로도 개인적으로도 시간을 투자해왔기 때문에 왔다.

어느 시점이 되면 삶은 단지 기회를 보는 것이 아니라 골을 넣는 일에 관한 것이 된다. 그래서 골문 앞에서의 효율도 중요하다. 내 결정을 돌아보면, 나는 많은 올바른 결정을 내렸다고 생각하지만, 결정을 더 잘 뒷받침할 데이터를 수집하는 데 더 많은 시간을 썼더라면 좋았겠다고 느낀다.

초기 단계 회사를 고르는 일의 핵심은 결국 팀과 시장이다. 오늘날 많은 지원자들은 기존 제품에 기준점을 두지만, 팀이 좋다면 그 제품은 거의 항상 전혀 다른 무언가로 진화한다. Anthropic의 초기 데모는 내 기준으로 ChatGPT보다 못한 Slackbot이었다.

최근 나는 연구에 어떻게 진입할 수 있는지 묻는 질문을 많이 받았다. 내 전 동료 Vlad는 Gemini 팀의 리드이고, 이 주제에 대한 훌륭한 글을 쓴 바 있다.

현대 연구는 컴퓨트가 많을수록 하기 쉬워진다. 하지만 시작하기 좋은 방법은 모델을 사용해보고, 자신의 직관을 평가 방식으로 정제하는 것이다. 내 전 동료 @kellerjordan0가 공개한 공개 최적화 리더보드들도 아이디어를 더 구조화된 환경에서 탐색할 수 있는 훌륭한 장을 제공한다.

Modal 같은 많은 컴퓨트 제공업체는 학계에 크레딧을 제공한다. 그것을 활용해 지금 자신의 아이디어를 탐색하라. 대부분의 아이디어는 결국 스케일에서 실패할 것이고, 그 실패를 이해하는 것이 실제로 무엇이 작동하는지 이해하기 위한 첫 단계다.

궁극적으로 나는 연구자라는 것은 직업이 아니라 태도라고 믿는다. 프런티어 랩에서 연구자가 하는 일의 대부분은 새로운 아이디어를 탐색할 만큼 충분히 호기심을 갖는 것, 인프라와 씨름하며 아이디어를 구현하는 것, 문제를 효율적으로 디버깅하기 위해 전체 시스템을 극도로 자세히 이해하는 것, 더 많은 컴퓨트를 확보하기 위해 결과의 가치를 명확히 설명하는 것의 조합이다. 프런티어 랩에 있지 않아도 이 모든 것을 할 수 있다.

마무리 생각

세상은 여전히 기회로 가득하다. 그 기회를 여는 열쇠는 흥미로운 문제를 찾고, 탁월한 결과를 전달하는 데 집중하는 것이다. 이것이 매력적으로 느껴진다면 연락해달라. 우리는 당신과 함께 일하고 싶다.