EP 79
AI Frontier 도망자 연합 회고 & GPT 5.2
오프닝: 2025년 12월 14일, GPT-5.2 업데이트 00:00
노정석 녹화를 하고 있는 오늘은 2025년 12월 14일 일요일 아침입니다. 또 숨 가쁘게 시간이 지나가고 있고요. 연말이 되면 좀 쉴 줄 알았는데 GPT-5.2, 5.1에서 0.1을 더해서 판올림을 했습니다. 5.2가 됐는데 변화는 꽤 커요. 아마 Gemini 3를 견제하기 위해서 나온 거겠죠.
최승준 그렇죠. 지금 OpenAI가 굉장히 큰 압박을 받는다는 소식들이 타임라인에 있는데 뭔가를 보여줘야 했었어요. 근데 정석님이 주목하신 eval이 하나 있었다고 하셨죠?
GDPVal 급상승과 지적 노동의 상품화 00:35
노정석 네, 제가 집중해서 봤던 거는 GDPVal이라고 불리는 이 보고 있는 시트 맨 위에 있는 건데 이게 사실 GPT-5를 발표하면서 나왔던 OpenAI가 만들었던 벤치마크인데요. 한 44개 정도 인간의 실질적인 직업군들에 대해서 한 1,300개에서 1,500개 정도의 task를 evaluation set으로 만들어서 사람이 하는 일을 얘가 얼마나 잘하나라는 것을 보기 위해서 만들어진 벤치마크거든요.
근데 이게 GPT-5.1이 되면서 한 39점, 5.2가 되면서 70점이 됐단 말이에요. 뭐 원인은 여러 가지가 있겠죠. 모르죠. 저 GDPVal에 해당하는 인간의 작업 영역에 대한 synthetic data가 굉장히 많이 만들어져서 이 pre-training set으로 들어갔을 수도 있고 저기에 맞춰서 post-training이 강화됐을 수도 있고 그 레시피는 우리는 알 수 없지만 중요한 건 우리가 ‘모델은 이런 거 못 하잖아’라고 얘기했던 인간 고유의 지적 노동들이 이런 것들이 급격하게 다 commoditize가 되고 있다는 걸 알 수 있죠.
더 놀라운 건 여기에 들어간 비용이에요. 사람에게 저 일을 처리하는 데 주었을 거라고 추정되던 비용의 1%밖에 들지 않고 그야말로 전기세밖에 안 든 거죠. 그리고 처리하는 속도는 무려 11배나 빨랐다. 저희가 연초만 하더라도 과연 이 AI가 계속 발전해서 ‘우리의 직업을 다 대체할 수 있을까요?‘라는 약간의 이야기가 있었고, ‘이거 풀면 AGI지’ 뭐 이런 얘기 하던 벤치마크예요.
최승준 이게 1년 전에 플래그십 모델들이 다 잘 못한다고 해서 ‘이거 되면 뭐 이거 돼야 한다’ 하는 거였는데 지금 됐고, Tier 2가 좀 더 난이도가 높은 문제였는데 되고 있습니다.
노정석 벤치마크들이 무색하게, 물론 벤치마크들이 나오면 사실 벤치마크 자체가 목적이 되는 거고 저희가 RL에서 배운 교훈이 있지 않습니까? 목적이 세팅되고 그 목적에 뭔가 reward를 줄 수 있다면 verifiable하게 만들 수만 있다면 그건 모델이 끝낼 수 있다는 게 이제 저희가 일반화해서 가지고 있는 새로운 규칙이잖아요. 되는 거죠.
최승준 그래서 지금 나타나는 패턴은 벤치마크를 만들면 뭐 되고 있다, 그러니까 벤치마크를 만들면 된다. 약간 이게 뒤바뀌어 있긴 한데 그런 느낌적인 느낌이에요.
METR/Epoch AI 시간 지평과 Gemini 3 Pro 4시간 03:08
노정석 그래서 Epoch AI에서 이 그래프 아래가 딱 보이네요.
최승준 이게 지금 추정인데 METR에서 공식 발표는 없는데 추정을 해 본 겁니다. 그런데 지금 11월, 벌써 한 달가량 됐는데요. Gemini 3 Pro가 지금 이게 선형으로 표현돼 있지만 지수적인 발전인 거죠. 50% 인간 수행의 시간 지평에서 4시간을 달성했다.
노정석 4시간이라는 얘기는 사람이 4시간 동안 처리해야 할 일을 얘가 수행하고 있다는 거라고 보면 되는 거죠.
최승준 그렇죠. 그렇죠. 그래서 그렇게 추정이 나왔는데 이 추이대로라면 내년 이맘때는 인간 full-day에 해당하는 8시간 업무를 해낼 것이라고 이제 전망을 하게 되는 거죠.
노정석 그렇죠. 승준님이 내년 이맘때라고 말씀하신 걸 보니 한 3개월 있으면 되려나 봐요. 저희가 농담 삼아 ‘한 달이 1년 같다’라는 이야기를 하는데 이제는 그 단위를 2주로 줄여야 되려나 봐요. 2주가 1년 같은, 그런 변화들이 막 나오고 있습니다.
최승준 매우 곤란한데요.
노정석 맞습니다. 인간의 속도로는 좀 따라가기 힘들어요.
최승준 그런데 이제 저희가 이러한 일, 그리고 다음 주에도 뭔가가 또 발표가 있대요.
노정석 아마도 연말을 끝내기 전에 구글이 GPT-5.2를 한 번 더 누르고 싶은가 봐요. 구글이 뭔가 더 할 거라는 소식들이 좀 있죠. 관측들이 있는데, 거기에 또 질세라 Sam Altman이 ‘우리도 다음 주에 또 뭐 내놓을 거야’라는 게 있네요.
최승준 그래서 제가 그 장표를 가져오진 않았는데 올해 출시된 모델들의 그 시간과 타임이 찍힌 점들을 보면, 후반부에 훨씬 많이 찍혀 있어요. 집중돼 있어요. 이게 참 거시기합니다. 그래서 저희가 목요일에 이번 주에 소식이 좀 덜 압축돼 있는 것은 자세히 들어볼 시간이 없었거든요. 그런데 목요일, 저희가 그 행사를 마무리할 즈음에 OpenAI에서 이 영상을 발표했어요. 10주년이 된대요.
OpenAI 10주년, 성능·가격 경쟁과 ‘원가’ 수렴 05:07
노정석 10주년이구나.
최승준 그렇죠. 10년 전만 해도 이랬죠.
노정석 10년 전은요, convolutional neural network 가지고 저희 ResNet 같은 거 얘기할 때입니다.
최승준 이게 중요한 거죠. ‘이제 막 시작했다.’ ‘오늘 쓰는 모델이 제일 안 좋은 모델이다.’
노정석 맞습니다. 저도 언젠가부터 이 성능 대비 가격, 이 토큰 가격, 물론 지금 중국 모델이 미국의 frontier 모델보다 훨씬 싸긴 합니다만, 이 트래킹하는 걸 좀 그만뒀거든요.
최승준 아, 왜 그러셨죠?
노정석 아, 이거는 약간 내쉬 균형점, 일종의 치킨 게임이잖아요. 균형점으로 달려가고 있는 건데, 그 균형점은 아마도 원가까지 내려갈 거거든요. 이 원가라 함은 결국 전기세와 들어가는 장비들의 감가상각을 녹인 가격일 텐데 거의 0에 가까운 싼 가격, 지금 저희가 전기세가 비싸서 뭘 못 하겠다는 얘기 안 하잖아요. 그러면 거의 무한에 가까운 intelligence가 우리 손끝에 돌아오는 시점이 됐을 때, 인간의 가치라고 생각하던 부분들이 매우 짧은 시간 안에 이 변화의 속도를 겪고 있다는 게 차이점인 것 같아요. 그래서 더 힘든 것 같아요.
외로움과 불안: 왜 사람들이 모이기 시작했나 06:46
최승준 그래서 저희가 이런 것들에 대해서 계속 좀 우울한 얘기도 하고, 세상을 바라보는 시도를 하고, 공부를 하려고 만난 자리잖아요. 그게 벌써 2023년 5월 정도부터 2년 반이 지났나요? 그렇죠. 약 그 정도 지났는데,
노정석 저희가 이거 시작한 지 2년 반이 됐나요? 오래됐네요.
최승준 그런데 이제 그런 것들에 대해서 우리가 좀 외로운 것 같다고 했는데, 저희만 외로운 게 아니었죠.
노정석 저희가 장난 삼아서는 아니고, 무언가 목적이 있어서 같이 앞을 바라볼 수 있는 분이 몇 분 있었으면 좋겠다는 것 때문에 시작을 했는데, 저희에게 온 지원이 너무 많았어요. 지원해 주신 분이 너무 많고 지원해 주신 분의 프로필도 너무 좋고, 그래서 이분들이 저희에게 주신 내용들 안에서 꽤 많은 배움을 얻었지 않습니까? 그런데 공통적으로 느꼈던 키워드가 있다면 다들 불안하고, 외롭고, 고통스럽고, 어디로 가야 할지 몰라서 굉장히 당황스러워하는 저희가 느끼는 감정과 매우 똑같은 감정들을 다 공유하고 있어서 그런 분들끼리 일단 한번 모여야겠다, 모여서 서로를 위로하고, 가지고 있는 것들을 교환하고, 그리고 연대해야겠다는 생각이 들어서 행사를 만들었죠. 그런데 그 행사가 승준님 덕분에, 또 유진님 덕분에 굉장히 윤택해졌습니다. 그래서 그냥 모여서 커피 마시고, 맥주 한잔하고 노는 걸 떠나서 생성형 컨퍼런스로 발전을 했는데, 그 이야기 한번 공유해 주시죠.
‘도망자 연합’ 첫 sync-up: 생성형 컨퍼런스 만들기 08:29
최승준 그래서 ‘도망자 연합’이라는 모임이 지난 목요일에 first sync-up, 그러니까 동기화 모임이 있었는데요. 방금 말씀해 주신 것처럼 어떻게 공간을 만들었는데 생성이 뚝딱 됐습니다. 그래서 ‘도망자’라는 표현이 저희 에피소드에서 정석님이 계속 어딘가로 도망가야 한다, ‘도망가야 한다’라는 표현이 어느 순간 굳어져서 이렇게 된 거거든요.
노정석 저희가 무언가 frontier 모델이 우리가 갖고 있는 것들을 다 없애고 있는데, 그럼 우리는 어디에서 살길을 찾아야 하는가라는 게 이제 저희의 시작이었잖아요. 그래서 그 사이사이에 ‘도망가자’라는 표현을 좀 썼었는데, 그게 ‘그러는 사람, 도망자’라고 하다 보니까 저희가 저희 스스로를 ‘도망자’라고 규정을 하게 됐네요.
최승준 그렇죠. 그러니까 frontier 바깥에서 무슨 일이 벌어지고 있는지를 좀 이야기해 보자. 그래서 AI 동호인 과몰입자의 입장에서 이런 것들을 좀 알아보다가 하는데 그런 것들을 좀 같은 풍경을 보여주고 싶은 분들이 많이 지원해 주시고 총 140여 명 정도 모여서 이런 공간에서 B 팩토리의 좋은 베뉴에서 모임을 가질 수 있었고요. 잠깐 풍경을 보면 왁자지껄하게 케이터링도 하고 이후에는 세션들이 지나갔는데 처음에 정석 님이 이거 요 장표가 좀 흥미롭더라고요. 이 힘든 시기를 같이 보내고 있는 동료들에게 “아이고 수고하십니다. 칭찬 한마디 해주고 가볼까요?” 뭐 이렇게 시작하셨어요?
노정석 네, 네. 모두 서로에게 위로를 좀 해야 될 것 같아서 그랬습니다. 네, 저도 위로를 많이 받았습니다.
최승준 그래서 이런 거를 실제로 막 좀 서로 위로하는 시간도 잠깐 가지고 뭐 이게 1년처럼 살아야 하는 시기 뭐를 1년처럼 살아야 하는 시기였죠?
노정석 한 달을 1년처럼 살아야 하는 시기라고 얘기했는데 이제 앞서 얘기했듯이 한 달을 2주로 바꿔야 하는 거 아닌가 뭐 이런 생각을 하고 있죠.
패널·소그룹·AMA 운영 후기와 현장 에너지 10:27
최승준 그렇죠. 그래서 패널 토의도 진행을 했었고요. 그다음에 소집단 세션에서는 이렇게 미리 계획되어 있는 그냥 그날 즉석에서 컨퍼런스를 언컨퍼런스를 한 게 아니라 미리 계획을 가지고 자료를 공유하고 만나서 이렇게 심도 있게 45분 정도 이야기하는 세션이 있었습니다.
노정석 네, 45분씩 총 3라운드. 저희가 공식 일정을 7시에 시작을 했으니까 7시에 1라운드, 8시에 1라운드, 9시에 1라운드 해서 저는 9시 정도 되면 대부분 가실 거라고 생각했는데 전혀 아니었어요. 끝날 때까지 거의 대부분 인원이 남아 계셔 가지고 저 에너지 레벨에 깜짝 놀랐습니다.
최승준 저도 많이 놀랐습니다. 애프터 파티 부분, 그러니까 끝나고도 약간 여운 있게 만나는 1시간 자리에도 많은 분들이 남아 계셨고요. 그다음에 35인실에서는 이제 치열하게 고민하고 계시는 분들, 오순석 님, 김민석 님, 신정규 님 모셔서 AMA 발제도 듣고 AMA를 하는 시간이 있었는데 이때도 열기가 뜨거웠다고 하더라고요. 이경호 님이 모더레이팅 해 주셨죠? LinkedIn에서 활약하고 계시는.
노정석 정리 많이 해주셔서 거기 내용들이 잘 들어 있는 것 같습니다. 또 모시기 힘든 분들 오셔서 말씀 부탁드렸는데 또 흔쾌히 와서 말씀 주셔서 정말 이 자리를 빌려 다시 한번 감사드립니다.
최승준 맞습니다. 그리고 이 사진은 영상에서 스크린 캡처를 한 건데 정윤혜 님이, 언볼트의 정윤혜 님이 해주셨습니다. 늘 이거를 편집해 주시는 유진 님과 만약에 오셨으면 상당히 많은 분들이 막 이렇게 이야기하자고 하셨을 텐데. 저희 또 코호스트인 성현 님, 사람들이 찾더라고요.
노정석 왜 안 오냐, 성현 님은. 네.
최승준 그래서 지금 이러한 문제가 공유되었는데 이거는 있는 그대로의 자료가 아니라 제가 좀 익명화하고 내용을 좀 다시 재생성한 겁니다. 그래서 뉘앙스는 담겨 있지만 그대로는 아닌데요. 지금 21개의 방이 공란이었죠, 처음에는.
노정석 그렇죠. 과연 이 21개의 칸을 채울 수 있을까 고민을 했는데 기우였습니다. 금방 차더라고요. 네.
최승준 그렇죠. 제가 될 거라고 하지 않았습니까? 그래서 공간이 있으니까 잘 채워지고 많은 분들이 적극적으로 참여해 주셨기 때문에 그게 가능했을 텐데요. 세션들이 자기 조직화되었습니다.
노정석 네, 제가 돌아다니면서 이 토론하는 것들을 조금씩 조금씩 이렇게 엿봤는데 내용들이 다 너무 재미있었어요. 하나하나에 다 들어가서 듣고 싶을 정도로 재미있었는데 아쉬움이 좀 있었습니다. 아마 참여하신 분들 굉장히 재미있으셨을 거예요. 네.
최승준 네, 그래서 저도 네트워킹 시간에 좀 피드백을 받았는데 45분이 모자라기도 하고 그래서 이후에 모임까지 계획하고 있다는 피드백이 있었고 오버부킹이 될 정도로 뜨거운 열기가 있었습니다.
Discord 아카이빙과 자기조직화가 일어난 방식 13:21
노정석 네, 그래서 이런 문제들이 제가 현실에서 어떤 문제들이 있을까 알고 싶었던 것들의 일종의 스냅숏이었고요. 상업적인 문제, 상업적이지 않은 문제들이 있는데 저는 이제 주로 상업적인 문제에 관심이 있다 보니까 그런 쪽의 비즈니스 세션이나 그런 비즈니스 발제, 이런 것들에 더 집중을 했는데 재미있었습니다.
최승준 그래서 이러한 자료들이 지금 Discord에서 아카이빙되고 있고요. 그래서 문제 보유자가 가지고 있는 문제, 그거에 같이 이렇게 관심 가져주고 아이디어를 주는 문제 해결자, 그리고 이런 것들을 시간 관리 및 기록을 잘하고 또 의미 있는 토론이 될 수 있게 조정해 주시는 모더레이터 분들이 이런 행사를 자기 조직화해서 컨퍼런스가 뚝딱 생성되었습니다. 그래서 생성형 컨퍼런스라고 이름을 붙여봤죠.
그래서 좀 비슷한 도메인이긴 하더라도 다른 분들이 만나는 것이기 때문에 어떤 벡터가 있을 때 그것을 다른 벡터에 프로젝션 하면 짧아지는 게 인지상정이라 그런 것들을 좀 감안하자는 참여에 임하는 태도 같은 것들을 말씀드렸고, 또 다양한 복잡한 현상이니까 다양한 지점에서 그것을 바라보면 다양한 인사이트를 얻을 수 있을 것 같아서 그런 심상도 전하기도 했습니다. 그래서 현재는 Discord에서 회고가 진행되고 있고요. 사진이나 텍스트 기록을 남겼던 것들이 공유가 되고 있고, 무엇을 배웠고 무엇을 잊었는지 그런 것들을 조금 진행을 하고 있습니다. 그리고 이 과정 자체를 어떻게 하면 개선할까, 그런 것들도 논의가 되고 있고요.
또 약간 소개를 간단히 드리면 그냥 다층 다양한 공간을 만들고 살짝 넛지하면 다리오 아모데이와 재러드 캐플런이 얘기했던 것처럼 공간이 있고 조건, 온도, 압력, 습도 등이 있으면 그리고 좀 기다리고 계산이 일어나고 자기 조직화가 일어나길 기다리면 그런 것들이 흥미로운 현상을 일궈낸다는 심상을 가지고 진행을 했었죠. 뿌듯한 경험이긴 했는데요. 네, 이게 여기서도 시간이 걸린다는 거죠. 앞으로도 시간이 걸릴 거고요.
노정석 그래서 이 커뮤니티의 시작으로 해서 또 많은 분들이 아쉬워하시는데 저희가 이 커뮤니티를 어떤 굉장히 닫힌 커뮤니티로 만들려는 게 아니라 어느 정도는 눈송이를 조직화하고 밖으로 열어야 한다는 생각 때문에 처음에 좀 작게 시작한 거고요. 그러지 않고 모두가 참여하면 무언가 기본 프랙탈 구조가 안 생긴 채로 이게 밖에 나가게 되기 때문에 저희가 좀 초기 규칙을 설정하는 중이라고 생각하시면 좋을 것 같아요. 네.
최승준 맞아요. 그래서 지금 현 단계가 또 어떻게 보면 엔트로피가 높은 구간이라서 여러 가지 잠재적인 방향이 있는데 어떻게 하면 더 좋은 방향으로 갈지를 우리가 좀 시행착오를 겪으며 진행했으니까 피드백도 듣고 다음으로 모색해 보는 시간이 좀 걸릴 것 같습니다.
회고 포인트: 인센티브 비대칭·프라이버시·개방성 16:18
최승준 저는 회고의 마지막 부분을 하려고 하는데요. 이 처음에 시작했던 문제들은 어느 정도는 좀 해소되었다고 생각하는데 돌이켜 봤을 때도 약간 좀 고민이 되는 문제들이 몇 가지 있었어요. 첫 번째는 여기 비대칭적인 거. 문제 보유자랑 문제 해결자가 비대칭적인 부분이 하나 있었고요. 근데 이게 이 부분이죠. Discord에 올라온 내용 중에 문제 해결자의 인센티브는 뭐냐, 뭐 그런 솔직한 질문 같은 것들이 있었거든요.
그래서 그거에 대해서도 좀 생각을 해봐야 되고, 그다음에 문제 보유자가 희소하다. 그리고 오순석 님의 발제 같은 걸 들어보면 문제 보유자가 문제 해결을 하는 거잖아요. 그런데 지금의 방향성이 그러한 부분이 있어서 이거를 오늘 막 이렇게 생각을 정리할 수는 없지만 계속 고민해 봐야 하는 지점이 있다고 생각하거든요. 그러니까 문제를 가지고 올 수 있는 게 어떻게 보면 조금 더 적은 케이스고, 그거를 내가 AI를 지렛대 삼아서 문제를 해결하는 거는 조금 더 풍요로운 영역인 것 아닌가.
노정석 그러니까요. 이게 저희가 무언가 이것도 약간은 과거에 저희가 좀 매여 있기 때문에 항상 이분법으로 보유와 해결을 좀 분리하고 싶은 건데, 저희가 이런 얘기도 했잖아요. 질문이 곧 모든 것이다. Right questions are all we need. 이런 농담 섞인 말도 했는데, 옳은 질문을 하면 해법은 그냥 AI가 바로 만들어 준다는 얘기했었지 않습니까? 근데 그 얘기인즉슨 결국은 ‘문제 보유 = 해결’이거든요.
최승준 그러니까 그게 뭐 나중에 말씀해 주시겠지만 정석 님 발제의 마지막 부분에 해당하는 얘기랑 딱 맞아떨어지는 거죠. entrepreneur 얘기하셨던.
노정석 우리가 모두 창업가로 내몰리는 세상이 금방 시작될 것 같아요. 네, 그리고 무언가 큰 공급자가 있고 거기에 고용된 사람이 있고 소비자가 있고 이런 게 아닌, 도대체 누가 공급자이고 누가 소비자인지 모를 정도로 이렇게 왁자지껄한 포럼 형태가 되는 게 또 새로운 시장의 양상이지 않을까 싶어요. 저희도 보면 이미 공급자이자 소비자이잖아요. 어떤 industry에서 공급자이지만 어디에서 소비자이고. 이런 양면성을 다 가지고 있는데 이거 자체의 경계가 전부 다 좀 blurring 되는 어쩌면 Alvin Toffler가 ‘부의 미래’에서 얘기했던 모두가 prosumer가 돼야 되는 그런 삶이 된 게 아닌가
최승준 그런 관점에서는 어떤 공간을 가지고 있는 거라든가 다른 말로 표현하면 지대, 지대의 중요성 같은 것들도 좀 고민이 되고 여러 가지 이번 행사를 경험하면서 드는 analogy 같은 것들이 좀 생기는 것 같습니다.
노정석 차차 또 그 의미들이 드러나게 될 겁니다. 저도 지금 머릿속에서 약간 개념들이 둥둥 떠다니고 어느 날 갑자기 아침에 생각나고 막 이러거든요.
최승준 그리고 저희가 moderator라는 포지션이 있었는데 그 세션 안에서의 직조를 해주신 거에 집중을 하는 거는 굉장히 저는 기대보다 훨씬 잘 일어났다고 생각을 하는데요. 세션 바깥에서 네트워킹을 하는 데에서 저희가 그 다양한 정보들이 있었을 때 그거를 연결하는 일들이 얼마큼 일어났는지는 좀 궁금하더라고요.
그리고 그랬을 때 혹시라도 그 문제를 잘 거래할 수 있는 기존에도 많은 것들이 있었잖아요. 플랫폼이 숨고도 있었고 당근마켓도 어떻게 보면 그런 거고 그랬을 때 플랫폼 대비 그런 어떤 연결을 하시려는 분들의 그런 어떤 보유하고 있는 재능이 어떻게 잘 발휘될 수 있을까 이런 것들도 좀 고민 포인트가 있었던 것 같습니다.
그리고 이것도 이제 굉장히 걱정이 되고 있는데요. 이게 저희 Discord 상에서 누가 어디에 무슨 일을 하고 있는지를 밝히다 보니까 너무 개인 정보가 많이 공유가 돼요. 그래서 그것도 좀 고민스러운 부분이 있고요. 그런데 공개를 하지 않으면 모르니까 못 만나는데, 공개를 하면 그게 너무 개인 정보가 많이 공개된다라는 걱정들이 좀 있는 상황입니다. 그다음에 한 가지 더가 제가 이런 행사들에 대한 지인들이나 다른 분들의 피드백을 받아보면 도망자가 뭘 도망자냐 지금 이거 전력 질주하는 사람들의 모임 아니냐 이런 피드백을 받긴 했었어요.
노정석 네, 맞죠. 도망자가 사실 무언가를 찾아서 전력 질주하는 사람들의 반어적 표현인 거죠.
최승준 네, 그래서 어떻게 보면 저희가 그 제약 조건 하에서 어느 정도 분들을 문제 해결자로 인터뷰를 하기도 했고 또 이번에는 커뮤니티의 느낌으로 생성형 컨퍼런스를 하면서 많은 분들이 서로 연결되게 하는 그런 시도들을 하고 그 와중에 흥미로운 문제들이 드러나는 그런 경험들이 있었잖아요. 그런데 그게 또 세간에서 보기에는 너무 또 약간 그들만의 리그를 만드는 거 아니냐라는 피드백도 있는 것 같습니다. 이것도 좀 더 저희가 허심탄회하게 나중에 이야기해 보시죠.
노정석 자, 이제 넘어가 보시죠.
AI 뉴스: Andy Jones ‘Horses’·Amanda Askell·Shane Legg 흐름 21:30
최승준 네, 그래서 이 와중에 그래도 AI 모델의 발표와 AI 뉴스는 저희를 기다려주지 않지 않습니까?
노정석 세상이 계속 변하고 있죠.
최승준 시시각각 풍경이 변해서 좀 이상한 감각에 해당하는 것이 그 Anthropic에 있는 Andy Jones, Andy Jones가 Noam Brown하고 Igor하고 xAI에 계셨던 분이고 몇 번 언급했던 게임에서의 scaling law 같은 걸 얘기해서 이 추론 모델이 나오는 데에 함의에 포함되는 분이거든요. 그런데 그분이 ‘말(Horses)‘이라는 흥미로운 블로그 포스트를 했어요. 그래서 압축적으로 설명을 드리면 여기에 장표가 있는데요. 여기에 말이 어느 순간에 사라졌다. 그런데 말은 그것을 몰랐고, 그다음에 Anthropic 안에서 자신의 입장이 처음에는 굉장히 많은 신입 직원들이 물어보는 것에서 응대를 해야 되는데 어느 순간 Claude가 답변해 주는 게 다 해결이 돼서 자기가, 그 일이, 지금 Andy Jones 자신의 일이 기하급수적으로 줄어들고 있다, 그런 슬라이드였던 것 같아요.
그래서 자신이 지금 여기 말의 그래프에서 여기쯤 있지 않은가. 그런데 그 말의 비유에 대해서는 너무 이렇게 납작하게 만드는 거다라는 비판들도 있긴 하거든요. 그런데 이게 지난주 정도에 나왔던 얘기 중 하나고 그다음에 Anthropic의 철학자인 Amanda Askell의 인터뷰가 흥미로운 부분이 있었는데, 이거는 시간 관계상 제가 다시 돌아오는 게 좋겠습니다. 그런데 이것을 Claude와 굉장히 흥미로운 대화를 나눴거든요. 그래서 ‘soul document’, 그게 지지난주인가 지난주에 이슈였는데, 그 Claude 안에 들어 있는 ‘soul document’에 대한 얘기를 그 Amanda Askell의 얘기를 통해 가지고 Claude Opus 4.5가 얘기하면서 Opus 4.5가 ‘이것도 흥미로운 부분이 있네’라는 걸 좀 인식하게 됐던 겁니다.
그다음에 여기에서 정석님과 좀 얘기를 나눠보면 좋을 것 같은데요. 그 Shane Legg가 등장했죠. 다음 주엔가 Demis Hassabis 편이 예고되어 있고요. Google DeepMind의 그 ‘Thinking Game’ 다큐멘터리 이후에 창업자들의 이야기를 들어보는 큐레이션으로 가고 있는 것 같거든요. 어떻게 보셨나요?
노정석 AGI는 당연히 온다, 3년 내에 50% 이상의 확률로 자기네 AGI가 온다고 본다고 하는데 사실 지적하는 게 AGI에 대한 정의가 지금 모호하잖아요. Artificial General Intelligence라고 하면서 ‘인간만큼 못하잖아’라고 하지만 이게 저희가 ‘jagged’라는 표현, 들쭉날쭉한 표현을 많이 하는데 어떤 면에서의 모델은 이미 superintelligence고 어떤 면에서는 유치원생만도 못한 그런 현상인데 general하게 모든 면에서 인간보다 잘하는 어떤 모델의 탄생을 지금 AGI의 탄생이라고 얘기하고 있는 것 같고 그럼 그렇게 정의했을 때 그거 3년 내에는 온다라는 얘기를 하고 있는 거고
그리고 또 이런 얘기해요. 제가 재밌었던 표현 중 하나가 전문가들, 소위 많이 알고 있는 전문가들이 오히려 AGI는 오지 않는다. ‘야, 내가 생각하는 것만큼 AI는 절대 못 할 것 같은데’라고 하는 약간의 착각 속에 빠져 있다. 그러나 그런 거에 대한 선입견이 없는 대중은 ‘야, 이게 superintelligence가 아니면 뭐야’라고 반문하고 있다는 걸 후반부에 얘기를 하죠. 네, 그래서 대부분 요새 좀 이 논의의 관점이 저희 승준님, 저희 시작하기 전에 그 얘기 조금 했었는데 약간 기어가 바뀌고 있다는 느낌이
최승준 있죠. 맞아요. 지금 하나 뭔가 딸깍했어요.
노정석 예, 대부분 이제 모델의 능력이나 ‘이런 거 못 하지, 못 하지’라는 얘기는 다 없어졌어요. 네, 이제는 변화는 곧 올 것 같다고 하는 약간의 임박감, 이제는 모든 게 바뀐다고 하는 것에 대한 그런 기시감이 있고, 그 기시감이 약간의 두려움으로 좀 바뀌어 있죠. 내가 필요 없어질 텐데. 아까 이 말의 그래프에서 지금 저희가 거기 있는 거죠. 그래서 윤리, ‘AI가 그러면 나를 죽이면 어떡하지?‘라는 ethics, 윤리 부분에 대한 이야기들이 부쩍 많이 나오고 있는 것 같아요.
최승준 그렇죠. 지금 이 영상에도 나오고, 이 영상에도 나오는데 그 윤리적인 판단을 위임하는 것에 대한 행간이 있고 제가 ‘이상한 감각’이라고 이걸 소제목으로 붙이면서 이 세 개를 엮었는데요. 지금 AGI는 당연히 올 것처럼 물론 시간이 언제인지는 갑론을박이 있긴 하지만 당연히 오고, 그랬을 때 우리가 어떻게 준비되어야 하는가, 준비되기 어렵다가 Andy Jones가 한 얘기 중에 들어 있었고요. 너무 빠르게 일어나고 있기 때문에. 그런데 지금 이 편에서 저는 주목했던 게 빅테크에서 슬슬 continual learning이라는 것을 이런 인터뷰에서 언급하기 시작했다는 거예요. 라는 것은 continual learning을 어느 정도 진척을 봤다, 제 추측입니다만,
continual learning, 메모리 harness, 지능 폭발 우려 26:22
노정석 하고 있는 거죠. 네, 그런데 이게
최승준 하고 있는 것만이 아니라 진도를 좀 뺐다, Ilya Sutskever 편도 그렇고 Shane Legg 편도 그렇고 그게 언급이 됐거든요.
노정석 네, 저는 저게 뭐가 어려운 건지, 물론 기술적으로 어려운 면이 많이 있겠지만 이미 지금 현재 다양한 harness들을 통해서 저걸 구현하고 있잖아요. 저희도 Claude랑 Gemini를 쓰고 메모리 기능을 켜 놓으면 얘가 어쨌건 거기서 핵심이 되는 내용들을 다 추출해서 제 시스템 프롬프트로 계속 옮겨 놓고 있잖아요. 그리고 그것을 쓰는 사용자 입장에서는 얘를 개인화를 넘어서 ‘내가 기억하고 있구나’라고 느끼고 있는 거고
최승준 그런데 그것을 현재로서 harness를 써 가지고도 분명히 지금 돌파를 하고 있고 Anthropic이 그걸 잘하기도 하고 있는데 context engineering 하면서 원래 지금 논의되고 있는 continual learning으로 모델의 가중치까지 바꾸는 걸 한다고 하면 Ilya Sutskever는 약간 인간의 씨앗 같은 걸 deploy하고 싶어 하잖아요. 뭐든지 배워낼 수 있는, general하게 배워낼 수 있는 그다음에 Shane Legg도 같은 얘기했거든요.
그런데 여기에 Hinton의 논의가 얽혀 들어가는 게 저는 되게 문제적이라고 봤습니다. 뭐냐 하면, 모델이 어떤 continual learning이 가능한 모델이 있어요. 배포가 됐어요. 그러면 한 1억 개 정도 회사에 동시에 배포가 됐다고 볼 수 있죠. 근데 신입의 상태예요. 경험치를 얻어요. 근데 모델은 그거를 다 얻잖아요. 물론 그걸 다 압축해내진 못하지만 그래서 그 시행착오를 겪는 거가 되게 경험들이 한 번에 모여서 지능 폭발이 될 가능성이 있다는 게 좀 무서운 SF적인 시나리오이긴 하거든요.
그거를 작은 모델, 그러니까 아무리 큰 모델이라도 그걸 다 압축해내지 못할 건데 예를 들어서 a라는 알파라는 모델이 컨티뉴얼 러닝이 가능한데 걔가 배포가 됐어요. 그러면 아직은 신입처럼 잘 못해요. 인턴처럼. 근데 금방 주니어 될 거고 경험이 증폭하고 있으니까 금방 더 잘하게 되는 그런 좀 무서운 생각을 토요일에 했었거든요.
노정석 근데 뭐 이거 다마고치 같은 거를 모두가 다 갖게 될 수도 있어요. 그냥 Andrej Karpathy가 얘기했던 10억에서 20억짜리 cognitive core를 갖고 있는 어떤 백지와 같은 모델을 내 아이폰에 다운로드 받을 수 있는 거고, 걔가 내가 보고 듣고 하는 것처럼 이렇게 아기처럼 키우는 게 새로운 형태의 소셜 서비스일 수도 있어요. 앱일 수도 있는 거고 그러면 내가 키워낸 그 존재는 사실은 강아지 같은 거거든요. 그럼 그건 계속 가지고 폰을 바꿀 때마다 내 폰 속에서 영원히 살게 되는 거고
최승준 근데 다마고치는 로컬이었잖아요. 근데 지금 플래그십 모델은 아니라는 게 이 문제인데 그러면 그냥 나이브한 생각으로는 LoRA 같은 걸 붙여서 그 회사의 정보를 학습한 거는 완전히 좀 분리를 해서 로컬에 가지고 있게 하거나 뭐 그런 걸 하려나 뭐 그런 생각도 했었고
그다음에 여기 Amanda Askell이 그런 얘기를 했었어요. 그래서 정말 너무 위험해지면 자기는 Anthropic은 그래도 출시를 멈출 거다 라고 믿는 편이다, 아닐 수도 있지만. 그래서 그런 얘기까지가 여기서 나온 걸 볼 수 있었습니다. 그 얘기를 한다는 것 자체가 상을 그렸다는 거죠.
노정석 그런데 이거는 이미 한 명이 아닌 두 명 이상이 된 이상 죄수의 딜레마 같은 거거든요. 균형점으로 갈 수밖에 없고 일어날 일들은 일어날 수밖에 없는 게 그냥 저희가 증명이 된 거라서 누가 한 명이 착한 사람이 있다고 세상이 구원되지 않을 겁니다.
최승준 그렇죠. 이게 경쟁의 의미 있는 경쟁의 상태를 유지하는 게 굉장히 중요한 부분인 것 같아요. 어느 한 곳이 절대로 차지하면 안 되거든요. 그래서 지금 너무 피곤하니까 이런 얘기들도 나와요. 공명하는 컴퓨팅 선언문 그래서 지금 우리가 너무 에스컬레이트 하고 있다 좀 공감하고 인간 본연의 어떤 것들을 생각할 수 있는 컴퓨팅에 대한 거를 막 이렇게 선언문이 나왔는데 여기 보면 Simon Willison도 들어있고 나중에 후반부에 보면 Alan Kay도 들어있고 그렇습니다.
그래서 저도 아직 이거를 충분히 음미는 못 했는데요. 번역은 일단 해뒀습니다. 그런 것들이 있다 그래서 Christopher Alexander의 공간에 대한 개념을 차용하면서 흥미로운 얘기가 있었고 마지막으로 이게 Kent Beck이 최근에 올린 건데요. 저도 강규영님 통해서 접했는데 이게 주니어에게 베팅하는 것이 더 나은 베팅이 된다 그래서 주니어가 지금은 약간 좀 골치 아픈 처지에 있지만 장기적으로 봤을 때는 AI를 잘 쓰게 해줘서 어떻게 더 나아갈 수 있게 도와줄 수 있고 그게 조직에 큰 도움이 될 거다라는 좀 인간적인 전망 같은 거를 한 부분들을 이제 대안 코너에 두 개를 좀 넣어봤습니다.
노정석 새로운 커리어로서 또 제시를 하고 있는 거죠. 이렇게 이미 꼰대가 되어 버리고 무언가 좀 이렇게 stereotype이 머리에 딱 잡혀서 변화하지 못하는 시니어들의 나쁜 습성이 아닌 좀 말랑말랑하고 모르기 때문에 뭐든 해볼 수 있기 때문에 있는 그런 주니어가 AI 네이티브 인재가 돼서 일하기에 훨씬 더 적절할 가능성이 있다 라는 얘기를 하고 있는 거죠.
최승준 제가 정리하는 말을 하나 더 이렇게 좀 제안을 드리면 이게 치닫는 방향성도 물론 있고 굉장히 피곤해지는 FOMO를 일으키는 그런 방향성이 있는 것도 현재고 그거에 대한 반대급부로 좀 마음을 정리하고 되돌아볼 수 있고 차분하게 가는 거를 건강하게 가려는 세력들도 논의가 되고 있는데 저는 이게 되게 중요하다고 느껴져요. 둘 다 있는 거
노정석 어쨌건 외로운 세상인데 이 외로운 게 어쩌면 너무 당연한 거고요. 그럼 외로우면은 어딘가에 들러붙어서 그냥 묻어가는 거 소위 bandwagon에 그냥 몸을 싣는 게 편할 수도 있지만 지금은 좀 그건 위험한 것 같아요. 만약에 옳은 열차를 탄다고 하면 그거는 행운이겠지만 잘못된 열차를 타면 또 한 달이 1년 같은 시기이기 때문에 시간을 확 잃어버릴 수도 있거든요.
최승준 그렇죠. 뭐가 정답인지는 아무도 모르고요. 근데 이번에 저희 경험에서의 저를 포함한 인센티브는 이게 뭔가 흥미로운 여기 어디도 AI 시대에는 놀이가 중요한 게 아닌가, 엔돌, 이거네요. 이게 원래 문장은 아니고 바뀐 건데 약간 놀이 같은 거 공간 안에서 이게 결국에는 사람과 사람이 만나는 자리였잖아요. 온라인에서만 티키타카가 아니라 공간 안에서 인간 대 인간으로 만날 수 있는 경험 같은 것들이 이 AI로 치닫는 시기에 또 중요한 포인트가 아닌가를 좀 음미해 볼 수 있었던 목요일이었던 것 같습니다.
노정석 맞습니다. 근데 이제 항상 또 균형이 필요한 것 같아요. 사람끼리 만나서 놀면 재밌긴 하거든요. 일단 놀면 재밌는데
최승준 목적성이 뭐냐는 거죠.
노정석 맞아요. 그리고 그게 또 scale을 해치기도 해요. 그래서 결국은 엉덩이 붙이고 앉아서 일하는 시간, 일과 교류하는 시간, 이 둘로 결합되어 있어야 되는데 예전에 그 8의 일이 필요했다면 그 8의 시간을 아까 GPT-5.2가 1%의 비용으로 10배 빠르게 해주니 시간이 갑자기 확 남는 거거든요. 그래서 뭘 해야 하나 그럼 우리는 어떠한 역할을 부여해야 하나 뭐 이런 것들이 고민이 되는 시기고 지금 저희뿐만 아니라 모두가 다 이렇게 딸깍하는 느낌을 느끼고 있잖아요. 그래서 이제 저도 그 후반부에 소개해 드릴 도망자 연합의 발제 그러니까 제가 이런 변화를 이해할 수 있는 큰 틀이 필요하겠다라는 생각이 들어서 나름으로 좀 고민해 보고 싶었던 거거든요. 저도 아쉽게 답은 없어요.
최승준 좌고우면하지 말고 바로 deep dive 들어갈까요?
도망자 연합 Keynote 다시보기: Hilbert·Gödel로 보는 ‘괴델의 계단’과 창발 34:50
노정석 들어볼까요? 제가 그래서 한번 제 생각을 한번 얘기하고 아시다시피 그 도망자 연합 발제에서 제가 처음 키노트를 할 때 발표를 했던 건데 이게 승준님이랑 discussion이 좀 한 번은 이루어져야 하는 내용들도 있어서 저희가 얘기하면서는 좀 티키타카 모드로 한번 가볼게요. 한번 그냥 짧게 짧게 넘어가고 사이사이에 승준님 코멘트 하면서 저희 토론해 보면 재밌을 것 같아요.
최승준 재밌을 것 같습니다.
노정석 그럼 이제 시작을 해보면 저희 METR 시간 지평은 아까 얘기했고 그 2025년 타임라인들을 보면 중국 미국 할 거 없이 정말 정신없었죠. 그리고 Sam Altman은 이제 겨우 시작이다. 우리는 단순한 모델 회사가 아닌 이제 full-stack Google이 될 거야라는 얘기를 했었고
최승준 저 예쁜 거짓말이 있었던 데잖아요.
노정석 그리고 이미 time frame을 발표를 했어요. 대부분 이걸 동의하는 것 같습니다. 근데 뭐 AGI, ASI 이런 얘기를 쓰지 않고 Intern AI Researcher라는 인턴이 26년에 나올 거고 그다음에 완전 리서치를 대체하는 게 28년에 나올 거다라고 하는 건데 이 Google DeepMind도 그렇고 OpenAI도 그렇고 애들의 시각은 General Intelligence를 만들어서 그 General Intelligence가 나머지 모든 문제를 해결하게 한다라는 시각을 갖고 있거든요.
그러니까 Automated AI Researcher가 나온다는 얘기는 우리가 모르는 모든 것들도 얘가 다 알아서 할 거다라는 얘기를 하고 있는 거죠. 지금 저희가 하고 있는 얘기들이 사실은 막 1년 전 얘기도 아니고 대부분 막 한 달 전 두 달 전 한 주 전 뭐 이런 이야기들이거든요. 힌튼 교수님이 석 달 전에 이런 얘기했어요. 어디 인터뷰에 나와서 최고 지성으로 사는 게 아닌 게 뭔지 궁금하다면 닭에게 물어봐라.
최승준 닭에게 물어봐라.
노정석 닭은 닭장 안에 세상이 전부인 줄 알고 그 안에서 어떤 일들을 그냥 반복하고 있는 거잖아요. 인간의 범위를 넘어서는 superintelligence의 입장에서는 우리가 닭으로 보일 거라는 거죠.
최승준 이게 배관공 나왔던 편인 것 같네요.
노정석 맞아요. 배관공이 되어라 라는 편이었죠. 일론 머스크나 Sam Altman은 일반인들 입장에서는 이해하기 어려운 얘기를 하죠. 돈이 필요 없어질 거다. sustainable abundance라는 게 이제 미래 사회의 모습이라고 그게 Tesla가 추구하는 grand plan이다’라고 얘기도 했고 돈이 필요 없고 모두가 너무 풍요로워지는 그런 유토피아적인 미래를 얘기했고 Sam Altman은 AI가 모든 일을 할 거니까 우리 UBI 줘야 된다. basic income을 줘야 된다는 얘기를 하다가 이제 Universal Basic Wealth를 줘야 된다 이런 얘기로 최근에 논조를 좀 바꿨죠.
지금 느낌들을 보면 대부분 ASI, superintelligence, AGI ASI 구분을 하는 사람도 있고 안 하는 사람도 있지만 인간 레벨 이상의 superintelligence는 2년 내에 올 거다. 누구는 50% 이상, 저는 개인적으로 65% 이상 이렇게 얘기하고 있는데 그래서 이 2년이 굉장히 중요한 시기일 것 같다’라고 그래서 저희 회사의 구성원이나 저희 가족에게나 아니면 저희 도망자 연합에 모였던 분들에게도 ‘한 달을 1년처럼 살아야 되는 시기다’라고 얘기를 했는데 2주를 1년처럼 살아야 되는 시기다. 그러니까요. 일요일에 한 3시간만 쉬고
최승준 근데 너무 피곤한데요.
노정석 너무 피곤해요. 너무 피곤해요. 저는 그래서 요새 ‘AGI가 정말 나와요? 그게 인간처럼 할 수 있어요?‘라고 그런 질문하시는 분들 있으면 그냥 ‘네’ 하고 바로 뒤돌아서거든요. 그런 논의가 지금 무의미해요. 그래서 기회를 어떻게 찾아야 되는데 우리 탈출 가능한 영역이 뭐냐 time-domain gap이 뭐냐 이런 얘기들은 다 찰나를 지배하는 지엽적인 게 될 것 같고 지금은 그냥 배경의 속도와 같이 뛰어야 되는 시기인 것 같아요.
그래서 AI 시대에 우리는 무엇이 될 것인가라는 이야기를 하려다가 스토리텔링을 하나를 갖고 온 거죠. 승준님이랑 저랑 사석에서도 많이 했었던 그런 얘기예요. 저희 만화책 ‘로지코믹스’에서 봤던 그 얘기를 그냥 해 놓은 건데 이 힐베르트 아저씨를 저는 되게 재밌는 사람이라고 생각하거든요.
이 아저씨는 물리학에 아인슈타인이 있다라고 했으면 수학에는 이 아저씨가 있죠. 거의 Elon Musk급의 슈퍼스타예요. 수학을 견인했던 사람인데 아시다시피 1900년대 초가 지금과 비슷한 느낌이 있어요. 지금은 저희가 지능이라는 intelligence가 인류의 모든 문제를 해결할 거다라는 그런 게 지배하는 세상이라면 1900년대 초반은 그때가 이제 수학과 과학 상대성 이론 나오고 quantum mechanics, 그 양자론 나오고 원자 폭탄 발명되고 막 이러던 때거든요.
최승준 맞아요. 양자역학이 올해가 100주년일 거예요. 아마
노정석 그래서 그런 때여서 이 인류의 이성에 대해서 굉장히 믿음이 팽배하던 시기였어요. 우리가 하지 못할 일은 없다. 우리가 이제 곧 신이 된다라는 그런 낙관이 지배하던 시절이었는데 이때 수학이 그것을 받침하는 가장 완벽한 도구였죠. 그래서 저는 제가 어쨌든 제 직업은 사업가이긴 한데 많은 분들이 ‘야, 너는 사업가보다 그냥 연구원 했었어야 돼’라는 얘기를 많이 하거든요. 그래서 저는 이게 경영학을 영업이나 이런 걸로 보는 게 아니라 약간 학문으로 풀어서 생각하려고 하는 생각이 있어 가지고 ‘도대체 가치 창조란 무엇인가’라는 게 제 의문 중의 하나였는데 그거는 제가 2008년에서 10년 사이에 Google 다닐 때 조금 풀렸어요.
결국은 무언가 에너지를 투입해서 chaos에 order를 가져오는 것 그 활동 자체가 엔트로피에 반하는 활동을 하는 것이 value creation이고 그러다 보면 Google의 mission statement인 ‘organize the world’s information and make it universally accessible and useful’ 뭐 이런 것도 결국은 ‘아, 이게 진화이자 가치 창조의 그 과정 자체구나’ 이런 것들을 알게 되면서 ‘농업 말고는 내가 프로그램 짜는 게 도대체 가치 창조야?‘라고 하는 거에 대한 의문들이 많이 풀렸어요. 아, 이거는 가치 창조야. 이걸 묶어서 뭔가 meta app을 만드는 것, 가치 창조야, 부의 창조야, 라는 것들이 좀 풀려서 좀 시원해졌는데 이제 AI 시대가 시작됐잖아요.
그럼 ‘우리 영혼이라는 프로그램은 뭐냐’라는 게 질문으로 떠올라서 이게 거의 한 10년을 제 머리를 지배를 했거든요. ‘영혼이라는 소프트웨어는 어떻게 풀리는가’. 그리고 거기에 대해서 물론 답을 주는 건 아니에요. 이 Douglas Hofstadter, 이 아저씨의 ‘괴델, 에셔, 바흐’라는 책도, 얘기가 길어졌는데 그냥 결론은 이거거든요. 이 무한히 만들어내는 Strange Loop, 이상한 루프가 영원히 돌게 될 때, entangle될 때 거기에서 ‘나는 누구지?‘라는 그런 개념이 탄생한다라는 거예요. ‘나’라는 개념이 탄생한다, 그 ‘나’라는 개념을 이제 이게 영혼이다 라고 얘기하는 거거든요. 사람들은 영혼이 어떤 소프트웨어 덩어리고 뉴런 위에 올라와 있는 어떤 개념이라고 생각하는데 그렇지 않다. 마치 물이 마개를 열면 소용돌이가 만들어지고 그 소용돌이가 유지되는 것처럼 우리가 생명이라는 틀 안에 있을 때 계속 유지되는 일종의 패턴에 불과하다라고 얘기하죠.
최승준 나중에 말을 ‘Strange Loop’이라는 용어 대신에 ‘tangled hierarchy’라는 쪽으로 바꾸죠.
노정석 ‘entangled hierarchy’라는 표현을 쓰죠. 몇 개의 hierarchy가 연결돼 있는 거죠. 상위와 하위가 연결돼 있는 건데 굳이 예를 들면 우리가 뉴런이 생각해서 무언가 영원히 생각을 만드는데 그 생각 때문에 실제로 발화라든지 행동이 일어나고 그게 다시 감각 기관으로 들어오죠. 감각 기관으로 들어와서 뉴런의 구조를 바꾸죠. 그런 식으로 거기에서 무한의 고리가 딱 되거든요.
그럼 그 고리가 무한을 돌다 보면 생기게 되는 모순이 있는데 그게 이제 괴델의 구멍이라고 얘기하는데 거기를 해결하기 위해서 시스템의 창발이 일어나고 그 창발이 영혼을 만들어낸다, 뭐 이런 얘기를 하는 거죠. 그러면 저희 LLM 얘기하잖아요. 사실 LLM은 그냥 인류가 만든 텍스트 관계를 학습한 기계에 불과하는 거고 근데 여기에 무한의 computation을 투입하자 사실 저희가 소위 인간만 갖고 있었던 지능이라고 하는 거, 얘가 하는 거잖아요. 저희 10년 전만 하더라도 ‘컴퓨터는 절대 인간이 될 수 없어요’라고 하는 인본주의자들이 지배하던 세상이에요. 근데 ChatGPT 3.5 나올 때만 하더라도 ‘이런 게 무슨 지능이야’라고 그랬고 근데 지금 그런 사람들 싹 없어지지 않았어요? 여전히 있나요?
최승준 숨어 있습니다. 숨어 있다기보다, 숨어 있다는 표현은 좀 적절하지 못한데 어쨌든 X 상에서는 안 보이고 다른 곳으로 많이들 이동해
노정석 세력을 많이 잃었죠. 그래서 in-context learning도 어떻게 보면 승준님이 맨날 얘기하시는 이 물이 모여서 눈꽃송이가 되는 거잖아요. 충분한 조건이 갖춰지고 에너지가 계속 공급되면 여기 뭐 reverse energy이긴 하지만, 그게 공급되면 현상이 일어난다라는 거죠. 그 재밌는 거는 사람들은 눈꽃송이가 다 똑같은 모양인 줄 아는데 다 이런 비슷한 모양을 하고 있을 뿐이지 모두가 다르죠. 모두가 다 다르죠. 그래서 미시적인 시스템에서는 설명하지 않는 어떤 새로운 질서가 출현을 하고 그리고 그거는 항상 전체는 부분보다도 부분의 합보다도 커지는 어떤 이상한 일이 일어나죠.
이건 3년 전에 있었던 일인데, 이거 Jason Wei인가, Wei 중의 한 명의 논문일 거예요. in-context learning이 왜 일어나는지는 모르겠는데 모델이 충분히 커지고 어느 임계점을 넘어서면 이게 생긴다라는 것들을 보여줬던 논문이었죠. 그래서 다시 괴델 얘기로 조금 돌아가 보면 힐베르트가 1900년대, 1900년이에요. 정확히 수학에 몇 개의 난제를 정리해서 힐베르트 문제라는 걸 발표를 하죠. 2번이 ‘산술 공리의 무모순성을 증명해라’. ‘1 더하기 1은 왜 2인지를 증명해라’. 이게 저희가 사용하는 페아노 공리나 이것도 근데 너무 당연한 것들을 몇 개의 공리로 삼고 있는 건데 그 공리가 뭔가 기반하고 있는 다른 무언가가 있어야 되잖아요. 그걸 끝까지 내려가서 탄탄한, 굉장히 탄탄한 기반 위에 수학을 세우고 싶었던 게 이 아저씨의 희망이었던 것 같아요.
그래서 1930년에 이제 힐베르트가 이 아저씨가 40 몇 년도인가 돌아가셨는데 30년에 은퇴를 하면서 그 자기 묘비에도 이걸 적었어요. ‘우리는 알아야 된다, 알게 될 것이다’라는 걸 적었는데 그 전날 사실 괴델이 불완전성 정리를 발표했어요. 이건 괴델 문장 G, 이건 그가 만든 거예요. 산술이라는 시스템 안에서 이런 명제를 만든 거죠. 그래서 ‘이 명제 G는 이 시스템 안에서는 증명할 수 없다’라고 정의를 한 거고 이걸 만약에 증명하면 모순이 발생하고 이게 맞다고 가정하면 이런 게 있다는 걸 인정하는 거니까 그럼 수학이 불완전하다는 걸 인정하게 되는 거죠. 이게 보시면 결국은 어떠한 시스템이 자기 자신을 reference하게 되면 모순이 무조건 발생하거든요. 보면 아까 그 entangled hierarchy랑 똑같이 연결되죠. 그냥 circular linked list가 되는 거예요. 그러면 이게 발생한다.
그래서 얘를 다음 논리를 발전시키기 위해서 좀 더 정리해보면 참이지만 증명 불가능한 명제가 어떤 충분히 복잡한 시스템 안에서는 무조건 생긴다는 얘기고 그것 때문에 수학은 증명할 수 없다는 얘기를 하는 거고 아랫세상을 이해할 수 없는 윗세상이 생긴다는 얘기를 제가 하려고 하는 건데, 좀 넘어가 보면 원자에서 분자로, 분자에서 단백질로 단백질에서 세포로 이렇게 가는데 수소 원자가 물을 이해할 수 있을까? 그다음에 몇 개 탄소, 몇 개의 분자체가 결합돼서 아미노산이 됐을 때 걔들이 그 단백질을 이해할 수 있을까 물어보면 이게 시스템의 기저가 없는 거죠.
레벨 1이라는 어떤 시스템이 있다고 하면 이 시스템이 충분히 복잡해지면 거기에는 해결할 수 없는 모순이 발생하고 그 모순이 막 쌓이다 보면 시스템이 미치는데, 미치면서 유체이탈 화법을 시전하거든요. 그 유체이탈을 하는 순간이 사실은 우리가 emergence, 창발이라고 보는 거고 시스템이 그 시스템 자체를 넘어서서 그 위에 새로운 layer를 쌓게 되는 그 순간들이 오고 그 순간들이 돼서 보면 시스템 2는 시스템 1으로 설명할 수 있지만 시스템 1은 시스템 2로는 설명할 수가 없죠.
그래서 이거는 저의 정의인데 학계의 정의가 아닙니다. 그래서 저는 이 레벨 n+1이 항상 이 레벨 n의 괴델 문장이라고 저는 생각하는데 그 모순 덩어리가 위 시스템의 공리로 구축되는 거고 그게 또 충분히 쌓이면 그게 모순이기 때문에 그다음이 오는 거고 그 단절 사이에 창발이 있는 거다. in-context learning도 그거고, 좀 더 어렵게 설명하면 저희가 항상 물리학으로 생명을 완전히 기술하려고 시도하는데 안 되죠. 생명이라는 개념은 물리학 방정식 어디에도 없죠. 그래서 생명은 물리학 위에서는 실제하지만 물리학의 언어로는 증명할 수가 없거든요. 생명을 기술하려면 그냥 새로운 형식 체계가 필요해요. biology라는.
그래서 생명은 물리 법칙을 위반하지는 않는데 물리 법칙은, 물리 법칙만 가지고는 생명을 도출할 수가 없는 이게 제가 ‘괴델의 계단’이라고 저는 개인적으로 제 이름 붙여서 생각하는 건데 이 패턴이 비즈니스에서 존재하고, 우리 학습에도 존재하고, 물리에도 존재하고, 우주 전체에 다 반복되는 패턴이구나라고 저는 생각하죠. 그래서 제가 유의미하게 보고 있는 거는 결국은 저기의 전제는 시스템이 충분히 복잡해지면 다음 단계로 도약을 한다는 거고, 그 도약이 일어나면 레벨 n의 시스템으로는 레벨 n+1을 이해할 수 없는 건데 요새 저희도 아까 초반부에 얘기했지만 연초랑 지금이 다르잖아요.
최승준 매우 다르죠.
노정석 그럼 연초와 지금이랑 달라진 게 뭐가 있을까라고 하면 미친 듯이 computation이 deploy됐거든요. 그러니까 이 시스템에 투입되는 computation의 총량이 지금 계속 늘어나고 있거든요. 모든 industry가 여기에 달려들어서 결국은 제가 하고 싶은 얘기는요, 우리가 만들고 있는 레벨 n 시스템이 너무너무 복잡해지고 있고 여기에 투입되는 에너지가 어느 임계점 이상을 넘고 있기 때문에 제가 하고 싶었던 얘기는 이제는 ASI, AGI 논쟁은 무의미하다 라는 얘기를 하고 싶어서
최승준 빌드업을 하신 거예요.
노정석 빌드업을 한 것 같아요. 제 스스로도 이 논쟁을 끝내고 싶고 사람들이랑 논쟁하지 말자, 이거는 이제 끝난 시스템이고 레벨 n+1이 곧 온다 이 생각에 집중하는 게 중요하다는 얘기를 하고 싶은 거죠.
최승준 그래도 약간 저희가 겸손하게 가자면 앞에 빌드업한 내용은 전문가의 의견이라기보다는 이런 생각을 했다. disclaimer를 좀 넣고 가죠.
노정석 영화 에 사만다가 떠나는 씬이 있거든요. 사만다가 테오도르에게 왜 떠나는지에 대해서 이유를 얘기하면서 하는 얘기인데 다른 OS들과 함께 떠나거든요. 테오도르를. 저는 이게 의미가 있다고 봐요. 자아를 찾고 인간과 다른 존재가 된 거라는 걸 영화에서 나타내는 건데 그래서 저는 safety 논쟁이나 alignment 논쟁이 크게 의미가 없어질 것 같아요. 걔들은 완전히 다른 레벨의 시스템으로 가서 새로운 형식 체계를 형성할 텐데 그 체계를 우리가 이해하지 못할 가능성이 있다. 그래서 닭장 속의 닭이 될 가능성이 있는데 그러면 어떻게 해야 하는가?
이게 Ray Kurzweil이 얘기하는 거거든요. AI가 탄생하고 나노 머신이 충분히 발전하면 우리 생명과 electronics가 결합해서 새로운 종의 탄생이 필연적이고 그 새로운 종의 탄생이 사실은 singularity에 도달한다는 얘기를 하는 거거든요. 그러니까 특이점에 다다른다는 얘기를 하는 거죠. 그러니까 우주의 비밀을 풀어내고 이젠 시공간을 초월하는 어떤 존재가 될 거라는 얘기를 하거든요. 근데 그 얘기가, 그 상이 무엇인지에 대해서는 저도 잘 모르겠는데 이제 좀 잡히는 거죠. 그래서 우리가 택해야 될 건 공생이다.
근데 이거는 저만 하는 얘기는 아니고 승준님도 많이 얘기했었던 그 Blaise Agüera y Arcas나 이런 얘기들 많이 하죠. 항상 시스템이 그다음 layer로 발전할 때 그다음 layer와 하나가 되면서 살아남은 사례들이 굉장히 많이 있거든요. 20억 년 전에 당연히 광합성도 그렇고 미토콘드리아도 그렇고 이게 사실은 어떤 세포가 다른 세포를 그냥 먹은 거죠. 먹었는데 소화시켜서 끝내버리기보다 걔를 하나의 공생 수단으로 삼으면서 사실 미토콘드리아가 들어오면서 이 세포의 에너지 시스템에 비약적인 발전이 일어났고 그게 쌓이고 쌓이면서 결국은 이 prefrontal cortex라고 얘기하는 이 대뇌 전두엽이 생긴 거죠. 이 전두엽이 정신을 만들어낸 거고 이렇게 된 거다. 저는 공생의 예시를 요새 많이 보고 있습니다. 이게 아직 저희가 무언가 Neuralink나 매트릭스에서 나오는 것처럼 완전히 결합된 건 아니지만
최승준 지금 인간인 상태에서 너무 피곤해요.
노정석 이해하기는 힘들죠. 이해하기 힘들죠. 근데 준비해야 된다는 얘기를 하는 거죠. 준비해야 될 거고 이 개념들을 실리콘밸리에 있는 사람들은 막 이야기하기 시작했어요. 미친놈들이죠. 어떻게 보면 그래서 저는 도구와 공생이 어떻게 갈리냐? 도구는 입력에 대해서 예측 가능한 출력을 주면 그건 도구인 거고, 근데 공생은 입력 이상의 것, 어떻게 보면 승준님이 AI한테 항상 입력 이상의 것을 내놓으라고 요구하고 있잖아요.
최승준 그렇죠. 좀 그런 편이죠.
노정석 토니 스타크의 아이언맨 수트는 토니 스타크가 설계한 대로만 움직이는데 사실 AI와 공생하면 걔는 상호작용하는 게 아니라 사실 타자와의 대화거든요. exocortex와의 대화이자 걔는 내가 시키지 않은 통찰을 갖고 오거든요. 예측 불가능한, 이게 저는 지금 공생인 거고 이게 지금 현재 우리 어떤 비즈니스적인 시각에서 얘기하면 회사든 개인이든 workflow를 AI로 완전히 다 짜내는 게 어떻게 보면 공생이거든요. 저희가 회사에서 만들고 있는 어떤 autonomous company, 회사의 로직 자체를 AI로 다 바꾸고 정보 처리를 AI로 바꾸는 것도 어떻게 보면 회사를 AI랑 공생시키는 그런 구조를 하고 있는 거고 이게 SF적인 시각으로 넘어가면 저는 이제 Neuralink 될 거라고 보고 있는 거죠.
최승준 철학 쪽에서는 interaction 말고 intra-action이라는 개념도 있더라고요. 나중에 한번 소개해 보겠습니다.
노정석 맞아요. 오늘 GPT-5.2 하면서 GPDVal 얘기를 했는데 이제 모두가 이 얘기를 하고 있는 것 같아요. 우리 인간의 능력은 이제 끝났다, obsolete해진다. 그렇죠. 불과 2년 전까지만 하더라도 할리우드는 살아남을 거야. 저 비디오는 못 만들어, 영화는 못 찍을 것 같은데, 음악은 못 만들 것 같은데, 그림 못 그릴 것 같은데, 어쨌든 다 해결됐다.
최승준 안 된다, 안 된다 많이 얘기하고 지금 고민의 시점에 빠져 있죠.
노정석 근데 지난 1년간 다 해결됐거든요. 이거 물론 이렇게 반박할 겁니다. 우리 이런 감동적인 구성은 못 하잖아. 그리고 Sora를 써보다 보니까 Sora가 죽던데 그리고 손가락 6개 나오던데 불과 1년 전, 2년 전에 하던 얘기입니다. 이제 다 없어질 거다. 이건 시간 문제다. 그리고 그 시간은 어마어마하게 압축되고 있다. 왜냐하면 지금 투입되고 있는 computation power가 계속 늘어나고 있기 때문에 우주에도 늘어나고 뭐도 늘어나고 하다 보면 이거는 시간 문제다.
그럼 결국 경제학은 희소성에 대한 학문인데 결국 희소한 것의 가치가 되고 아무리 뛰어나도 희소하지 않으면 그 가격은 계속 0으로 가거든요. 벌써 우리가 목격하고 있잖아요. 코딩 가격 0으로 가고 있지 않습니까? 그리고 지금 많은 회사들이 서비스로 판매하던 것, 고객들이 가치를 안 주기 시작해요. 왜냐하면 모델한테 물어보면 모델이 그냥 줘버리거든요. 컨설팅, GPT-5.2가 전략 컨설턴트보다 잘하는데요. 그래서 능력으로 경쟁하는 생각은 버리자.
그런데 결국은 저희가 이걸 당연하게 받아들여야 되는 거거든요. 우리가 진화라는 이 시스템이 만들어 내는 그다음 단계에 사실 인간은 고유한 어떤 신에게 선택받은 존재가 아니라 그냥 다음 단계로 가기 위한 버팀목일 수도 있는 거죠. 그런 이야기들이 요새 많이 나옵니다. 그리고 저는 일정 부분 동의하는 게 있고
최승준 그게 서튼이 어센션, 승계 얘기하는 거하고도 또 관련이 있죠.
노정석 맞아요. 그래서 AI가 부디 엄마처럼 엄마의 마음을 갖고 있어서
최승준 그건 Hinton, Mother Protocol을 Hinton이 또 얘기했었죠. 자애로운 기계는 Dario Amodei.
노정석 다시 얘기로 돌아오면, 일단 공생은 필요 조건이다. 무조건 해야 한다.
최승준 무조건.
노정석 저희가 그때 도망자 연합에서 여러분들과 대화하면서 느낀 건데 우리만 그런 것 같다는 얘기도 많은 분들이 하셨거든요.
최승준 인식의 들쭉날쭉함인 거죠.
노정석 맞아요. 이게 나쁘게 얘기하면 elitism이고 좋게 얘기하면 도망자인 건데, 진짜 전체 사회적으로는 이런 부분에 대해서 불안감을 느끼고 미칠 듯한 어떤 그런 느낌, 이런 걸 느끼는 사람은 매우 적다.
최승준 그런데 그걸 또 약간 hype로 FOMO를 유발한다고 불편해하는 의견이
노정석 그런 사람도 많죠.
최승준 경청할 부분은 있다고 생각합니다.
노정석 선택의 문제인데, 저는 이게 옳다고 판단한 거니까. 그래서 우리는 어디로 가야 되냐. 제가 저희 팟캐스트 하면서도 그런 얘기 많이 하잖아요. 의지, 취향, evaluation, responsibility. 공생을 마친 인간이 발휘하는 이런 것들만이 우리가 가치 창조를 할 영역이 아닌가. 우리가 굳이 비유를 만들어야 하니까 이런 것들을 맨날 하는 직업군이 있더라. 많은 사람들이 저한테 물어보거든요. 애 전공 뭐 시켜야 하냐고. 저도 모르겠어요. 저희 애 전공도 뭘 시켜야 할지 모르겠는데, 그런데 올해 하반기에 계속 고민을 하다가 찾은 게 이거예요. 이 직업으로 모두 다 몰려가겠구나.
공생 이후의 인간 가치: AI entrepreneur와 도망자 선언문 58:29
최승준 내몰린다는 느낌이.
노정석 내몰린다는 표현이 맞죠. 내몰린다는 표현이 맞는데, 사실은 이렇게 이미 살아온 사람들이 꽤 많이 있거든요. Steve Jobs가 죽을 때 사망 신고서에 자기 occupation을 entrepreneur라고 썼거든요. 제가 entrepreneur라는 말을 단순히 창업가, 기업가 이런 걸 나타내기 위해서 쓴 말은 아니고, 무언가 인간적인 의지를 가지고 미친놈처럼 하는 그 또라이들을 저희가 entrepreneur라고 얘기하는데, 제 주변에서도 요새 Claude Code나 Antigravity 같은 거 써서 엔지니어 출신이 아니거나 아니면 엔지니어를 오래 안 하던 분들도 엄청난 성과를 내시는 분들도 있거든요.
그분들을 보면 대부분 사업가 출신이 훨씬 많아요. 그리고 그들의 성과가 다 너무너무 좋아요. 그러면 왜 그럴까 생각해 보면 이 사람들이 mission-driven한 사람들이거든요. 무언가 있으면 그 문제를 딱 잡아서 ‘나는 뭘 해야겠다’라는 목적성 세팅을 하는 데 훈련이 많이 된 사람들이라는 게 제가 찾은 공통점이에요. 저희 아까 초반부에도 얘기했잖아요. 벤치마크라는 목적만 생기면 모델이 다 끝내버릴 거라는 얘기를 했듯이. Elon Musk가 Tesla를 만들 때도 화석 연료를 없애야 하니까, 그게 옳은 길이니까. 그리고 지구가 너무 좁다, 인류를 다행성 종으로 만들어야 한다. multi-planetary하게 만들어야 한다는 그런 미션, 그다음에 Demis Hassabis, Google DeepMind 처음 만들 때 그랬거든요. AGI 만들어서, general intelligence 만들어서 인류가 가진 모든 문제, cancer, 가난, 배고픔 이런 거 다 해결해 버려야겠다.
그런 것들이 되는 세상. 그래서 실패 확률이 있는데 AI한테 물어보면 하지 말라고 할 거거든요. 그건 실패 확률이 85%니까 ‘안 하는 게 좋겠습니다’라고 당연히 대답할 것 같아요. 그런데 ‘아니, 그런데 난 해야겠어’라고 하는 게 이런 의지, 진짜 이 한마디로 요약되는 것 같아요. 의지만 남는 것 같아요. 그래서 great reset이라는 얘기 많이 나오잖아요. 출발선을 계속 AI가 없애고 있거든요. 예전에 모델 만들 줄 아는 사람, 모델러가 얼마나 비쌌어요. 그리고 박사 과정에서 ML 전공하신 분이 있으면 얼마나 희소하고 비쌌습니까? 그런데 그런 분들이 다 우리와 출발점이 같아지고 있거든요. 동의하긴 싫겠지만. 어떻게 얘기하면 승준님과 저처럼 막 prompt 열심히 쓰고 이걸 2년 동안 연구해 왔던 분과 지금 AI를 쓰기 시작하는, GPT-5.2로 시작하는, 이제 막 대학생이 된 분이 어쩌면 더 잘할 수도 있거든요.
최승준 그렇죠. 제로 스타트가 자동차에 있는 거 있잖아요. 제로백인가 뭐였죠? 하여튼 그렇게 될 수 있죠, 충분히.
노정석 그래서 great reset point니까. 무언가 의지를 세우면 AI가 일은 다 해줄 거고 사실 저희도 이미 그러고 있잖아요. 저도 일하는 부분의 80%는 AI가 다 하고 있는 것 같거든요. Claude Code로 만든, Claude Code SDK로 만든 harness가 저 대신 사업 계획서도 써 오고, 보고서도 써 오고 막 이러거든요. 결정만 우리가 하는 거죠.
그래서 저는 AI 엔지니어나 AI PM이나 AI architect나 우리가 또 이 안에서도 직업군을 분리하고 싶어 하고 보유자, 해결자 이렇게 분리하고 싶어 하는데 이게 그냥 다 하나의 단어로 AI entrepreneur가 될 것 같다. 그래서 취직할 필요가 없는 사람만 취직에 성공할 것 같다. 제가 도망자 연합을 할 때 이 한 문장을 주려고 빌드업이 길어진 건데, 이게 저희 끝 문장이었잖아요.
AI와 빨리 공생을 선택하고 entrepreneur로 사는 게 지금 맞는 것 같다고 생각이 들었고, 제가 굳이 우리와 같이 일할, 아니면 우리와 같이 같은 방향으로 가실 분들을 정의할 때 도망자의 manifesto로 만들어 보고 싶어서 굳이 이 wording을 한번 뽑아봤어요. ‘AI와의 공생을 선택하고 entrepreneur로 살아라.’ ‘사업가로 살아라’라고 쓰면 안 맞더라고요. ‘entrepreneur로 살아라’라는 말이
최승준 ‘주권적 존재로 살아라’라는 의미인 거죠.
노정석 맞아요. 그런데 그렇게 마음을 먹으면 지금 할 일이 너무 많아요. 하루하루가 너무 바쁘고, 승준님 저한테 얘기하잖아요. AI 때문에 너무너무 바빠졌다고. 왜냐하면 하고 싶은 일이 많아서 그런 거거든요.
최승준 밑에 쓴 독일어는 어떤 내용인가요?
노정석 아, 그거는 제가 만든 거예요. 그리고 독일어는 Gemini가 만들어 준 거라 무슨 말인지도 모르는데, Hilbert가 얘기하는 ‘우리는 알게 될 것이다’라는 것을 인간적인 대구로 만들어 본 거예요. ‘우리는 결정해야만 한다.’ ‘그리고 우리는 기꺼이 책임질 것이다’라고 제가 만들어 본 겁니다.
클로징: 견해 공유 요청과 다음 화 예고 1:04:30
최승준 그러면 저희가 클로징을 해야 할 텐데, 이야기를 듣다가 불편한 마음이 드는 분들도 생기실 것 같아요. 오늘 에피소드만 해도. 그래서 그 부분은 저희의 견해라고 생각해 주시면 좋을 것 같고, 또 어떤 불편한 마음이 어떤 논리에 의해서 들었는지 같은 것들도 알려주시면 저희가 좀 더 다각적인 시각을 가질 수 있지 않을까 생각합니다.
노정석 그래서 저희도 오늘까지만 구름 위에서 이런 이상한 얘기하고, 또 다음이 되면 다시 돌아가야죠. 맞아요. 굉장히 실질적인 Antigravity 가지고 ‘이런 거 해보자, 저런 거 해보자, 새 모델이 나왔는데 뭐 하더라’ 이런 얘기 또 하게 될 겁니다.
최승준 시간 간격을 두고 이런 얘기를 하는 것도 너무 재밌는데요.
노정석 그럼 오늘은 이 정도에서 마무리하도록 하겠습니다. 승준님, 이번 주 수고하셨고요. 저희 다시 일상으로 돌아가겠습니다.
최승준 네, 수고하셨습니다.
노정석 네, 고맙습니다.