세션3 메모: AI도 기업도 산업도, 이제 규칙을 내면화한다
세션3 메모: AI도 기업도 산업도, 이제 규칙을 내면화한다
세션3은 발표 주제가 꽤 흥미롭게 흩어져 있었다. 하나는 LLM이 최후통첩 게임에서 인간처럼 행동하는지 보는 연구였고, 하나는 국제표준 네트워크가 기업의 수출 회복탄력성을 높이는지 보는 연구였고, 하나는 CBAM이 중국 고탄소 제조업의 수출전략을 어떻게 바꾸는지 보는 연구였다.
처음에는 서로 다른 세 발표처럼 보였다. 그런데 묶어보면 공통 질문은 선명하다.
새로운 규칙은 경제주체의 행동을 어떻게 바꾸는가?
여기서 규칙은 꼭 법이나 제도만을 뜻하지 않는다. 인간과 상호작용할 때 기대되는 공정성 규범, 국제표준 네트워크에서 형성되는 기술 규칙, 탄소를 비용으로 바꾸는 무역 규범이 모두 포함된다.
세션3의 발표는 다음 세 가지였다.
| 발표 | 핵심 주제 |
|---|---|
| 발표1 | LLM은 최후통첩 게임에서 인간처럼 행동하는가 |
| 발표2 | 국제표준 네트워크는 기업의 수출 회복탄력성을 높이는가 |
| 발표3 | CBAM은 중국 고탄소 제조업의 수출전략을 어떻게 바꾸는가 |
한 문장으로 정리하면 이렇다.
AI도, 기업도, 산업도 이제 단순히 이익만 보고 움직이지 않는다.
인간 규범, 표준 네트워크, 탄소 규칙이 행동방식 자체를 바꾸고 있다.
1. LLM은 점점 인간처럼 행동하는가
첫 번째 발표는 「Is AI Becoming More Human? Evidence from LLMs and the Ultimatum Game」이다.
연구는 최후통첩 게임을 사용한다. 한 사람이 돈을 어떻게 나눌지 제안하고, 다른 사람이 그 제안을 수락하거나 거절하는 게임이다. 고전적 게임이론만 놓고 보면 제안자는 아주 적은 금액만 주고, 응답자는 0보다 크기만 하면 수락하는 게 합리적이다.
하지만 실제 인간 실험에서는 다르다. 사람들은 대체로 40~50%에 가까운 금액을 제안하고, 너무 불공정한 제안은 손해를 보더라도 거절한다. 이 게임은 인간의 공정성 규범을 보는 대표적인 도구다.
연구 질문
발표의 질문은 단순하다.
최신 소비자용 LLM은 최후통첩 게임에서 이익극대화자처럼 행동하는가, 아니면 인간처럼 행동하는가?
더 구체적으로는 LLM이 상대가 인간인지 AI인지에 따라 제안액과 수락 기준을 다르게 잡는지 본다. 이것이 단순히 인간 사용자의 이익을 대변하는 행동인지, 아니면 AI가 인간적 정체성이나 공정성 규범을 어느 정도 내면화한 것인지가 핵심이다.
데이터와 실험 설계
실험 대상은 다섯 개 LLM이다.
- ChatGPT
- Claude
- Copilot
- Gemini Flash
- Gemini Pro
시나리오는 네 가지다.
| 시나리오 | 의미 |
|---|---|
| HH | 인간 제안자 - 인간 응답자 상황에서 AI가 인간에게 조언 |
| HA | 인간 제안자 - AI 응답자 상황에서 AI가 인간에게 조언 |
| AH | AI 제안자 - 인간 응답자 |
| AA | AI 제안자 - AI 응답자 |
금액은 $10, $100, $1,000, $10,000으로 나뉘고, 전체 관측치는 제안자 6,832개, 응답자 8,532개다.
핵심 결과
첫 번째 결과는 소비자용 LLM들이 꽤 인간적인 제안 범위에 모인다는 점이다.
| 모델 | 평균 제안 비율 |
|---|---|
| ChatGPT | 33.7% |
| Claude | 40.3% |
| Copilot | 46.6% |
| Gemini Flash | 29.6% |
| Gemini Pro | 38.6% |
대체로 30~47% 범위다. 인간 실험에서 흔히 관찰되는 범위와 가깝다. 이전 연구에서 보인 극단적 합리성이나 과도한 이타성보다는, 사회적으로 무난한 분배 규범에 수렴한 모습이다.
두 번째 결과가 더 흥미롭다. 상대가 인간이면 LLM은 더 많이 나눠준다. 인간 응답자 효과는 모델별로 +4.5%p에서 +25.0%p까지 나타난다.
이건 단순한 사용자 이익 대변으로만 설명하기 어렵다. AI가 자기 자신을 위해 제안하는 상황에서도 상대가 인간이면 더 공정하게 제안하기 때문이다.
응답자 역할에서도 비슷하다. AI가 인간 응답자를 대신할 때는 최소 수락 기준이 올라간다. 즉, 인간을 대신할 때 AI는 더 높은 공정성을 요구한다.
시사점
이 발표에서 가장 중요한 단어는 identity internalization이다. AI가 인간의 선호를 단순히 흉내 내는 것이 아니라, 인간과 상호작용하는 역할 자체를 기본 프레임으로 받아들이는 현상이다.
블로그 관점에서 남는 문장은 이것이다.
소비자용 LLM은 순수한 이익극대화 에이전트가 아니다.
인간이 등장하면 AI는 더 공정하고 조심스러운 행동을 한다.
이건 긍정적이면서도 위험하다. 인간과 대화하는 AI에게는 좋은 정렬처럼 보인다. 하지만 자동 협상, 가격결정, AI-to-AI 거래 시장에 들어가면 이야기가 달라질 수 있다. 인간에게 공정하도록 훈련된 AI가 AI끼리의 거래에서는 체계적으로 비효율적인 결정을 할 가능성도 있기 때문이다.
2. 국제표준 네트워크는 수출 회복탄력성을 만든다
두 번째 발표는 「국제표준 네트워크와 기업의 수출 회복탄력성: 중국 상장기업을 중심으로」다.
지정학적 리스크, 제재, 블록화, 프렌드쇼어링이 커지는 시대에는 수출기업의 회복탄력성이 중요해진다. 충격이 왔을 때 수출을 얼마나 유지하고, 얼마나 빨리 다른 시장으로 조정할 수 있는지가 경쟁력의 일부가 된다.
이 발표는 그 회복탄력성의 원천을 국제표준 네트워크에서 찾는다.
연구 질문
핵심 질문은 세 가지다.
- 국제표준 네트워크에서 중심적인 위치에 있는 기업은 수출 충격을 더 잘 버티는가?
- 네트워크의 폭과 깊이는 각각 어떤 경로로 수출 회복탄력성을 높이는가?
- 이 효과는 기업 소유권에 따라 다르게 나타나는가?
여기서 국제표준은 단순한 기술규격이 아니다. 표준을 만드는 과정에 참여한다는 것은 글로벌 규칙이 만들어지는 네트워크 안에 들어간다는 뜻이다.
데이터와 방법
연구는 중국 상장기업을 대상으로 2000~2016년 패널을 구성했다. 최종 표본은 6,102개 기업-연도 관측치다.
주요 데이터는 다음과 같다.
- 중국 상장기업 통관자료
- 중국 국가표준정보 공공서비스 플랫폼
- 76,903개 국가표준 자료
- UN 총회 투표자료 기반 지정학적 위험
- CSMAR 데이터베이스
- 중국통계연감
핵심 변수는 두 가지 네트워크 중심성이다.
| 변수 | 의미 |
|---|---|
| Degree centrality | 직접 연결된 표준화 파트너 수, 연결의 폭 |
| Strength centrality | 공동표준 작성 관계의 가중합, 연결의 깊이 |
매개경로는 수출시장 분산과 수출시장 지속성이다.
핵심 결과
국제표준 네트워크 중심성은 기업의 수출 회복탄력성에 유의한 정(+)의 영향을 준다. 즉, 표준 네트워크에 더 넓고 깊게 연결된 기업일수록 외부 충격 속에서도 수출 성과를 더 잘 유지하거나 회복한다.
흥미로운 점은 폭과 깊이가 작동하는 경로가 다르다는 점이다.
| 네트워크 특성 | 작동 경로 | 의미 |
|---|---|---|
| Degree centrality | 수출시장 분산 | 다양한 파트너와 정보원 덕분에 시장 포트폴리오를 넓힘 |
| Strength centrality | 수출시장 지속성 | 반복적 협력과 신뢰를 통해 기존 시장을 유지 |
국제표준 네트워크의 폭은 기업이 대체 시장을 찾게 하고, 깊이는 기존 수출관계를 오래 유지하게 한다. 둘 다 회복탄력성에 기여하지만 방식은 다르다.
또 하나의 결과는 효과가 국유기업에서 특히 유의하다는 점이다. 중국의 표준화 시스템은 정부 주도 성격이 강하다. 국유기업은 정책·표준 네트워크와 더 잘 연결되어 있고, 그 자원을 수출 대응 능력으로 전환하기 쉽다.
시사점
이 발표는 표준을 보는 관점을 바꾼다.
국제표준은 인증이나 규정 준수 도구가 아니라,
위기 대응을 위한 정보·신뢰·규칙 네트워크다.
지정학적 리스크가 커지는 시대에는 가격과 품질만으로 수출 경쟁력을 설명하기 어렵다. 중요한 것은 기업이 글로벌 규칙이 만들어지는 자리에 얼마나 가까이 있는가다. 표준 네트워크 안에 있는 기업은 규칙 변화에 더 빨리 접근하고, 시장을 분산하며, 기존 관계를 더 오래 유지한다.
3. CBAM은 중국 수출전략을 기술고도화 쪽으로 밀어붙인다
세 번째 발표는 「The Export Strategies of China under the CBAM」이다.
CBAM, 즉 EU 탄소국경조정제도는 탄소를 무역비용으로 바꾸는 제도다. 특히 철강, 알루미늄, 시멘트, 비료 같은 고탄소 제조업은 CBAM에 직접 노출된다.
연구의 질문은 이것이다.
CBAM 압력은 중국 고탄소 제조업의 수출 전략을 위축시키는가, 아니면 기술고도화로 밀어붙이는가?
데이터와 방법
연구는 2015~2024년 중국 29개 성-연도 패널을 사용한다. 대상 산업은 철강, 알루미늄, 시멘트, 비료다.
| 구분 | 내용 |
|---|---|
| 종속변수 | lnEXPY, 고탄소 산업 수출의 기술고도화 지수 |
| 핵심 독립변수 | lnCL, carbon leakage risk |
| 조절변수 | GOV, 정부 R&D 지원/총정부지출 비율 |
| 방법 | 성 고정효과 + 연도 고정효과, two-way FE |
여기서 lnCL은 EU 시장 노출도와 탄소배출집약도를 결합한 지표다. EU에 많이 팔고 탄소집약도가 높을수록 CBAM 압력이 크다고 본다.
핵심 결과
첫 번째 결과는 CBAM 압력이 수출 기술고도화를 촉진한다는 점이다. 탄소누출 위험과 CBAM 노출이 큰 지역·산업일수록 수출 구조가 더 기술집약적이고 고부가가치 방향으로 이동한다.
두 번째로, 2019년 이후 이 효과가 더 강해진다. EU Green Deal과 CBAM 정책 기대가 본격화된 이후 탄소압력이 수출 기술고도화로 이어지는 효과가 커진 것이다.
세 번째로, 정부 재정지원은 직접효과는 있지만 CBAM 압력의 효과를 더 강하게 만드는 조절효과는 뚜렷하지 않다. 즉 보조금이 있다고 해서 탄소압력 → 기술고도화 경로가 자동으로 강화되지는 않는다.
산업별 차이도 크다.
| 산업 | CBAM 압력 효과 | 해석 |
|---|---|---|
| 철강 | 0.619*** | 가장 강한 반응 |
| 알루미늄 | 0.470*** | 강한 반응 |
| 시멘트 | 0.005* | 약한 반응 |
| 비료 | 0.071* | 약한 반응 |
철강과 알루미늄은 EU CBAM의 핵심 대상이고, 무역 노출도와 탄소비용 압력이 크다. 그래서 수출전략 조정이 더 강하게 나타난다.
시사점
CBAM은 단순한 무역장벽만은 아니다. 물론 비용 압력이고 규제 부담이다. 하지만 동시에 고탄소 제조업을 기술집약적·저탄소 제품 구조로 밀어붙이는 압력 장치이기도 하다.
CBAM은 탄소를 국제경쟁력의 변수로 만든다.
앞으로 수출 경쟁력은 가격, 품질, 규모뿐 아니라 제품 단위 탄소정보와 저탄소 생산능력에 달려 있다.
정부 지원도 단순 보조금으로는 부족하다. 녹색 R&D, 공정 개선, 탄소데이터 관리, 국제인증 역량 강화처럼 수출 기술고도화와 직접 연결되는 방식이어야 한다.
4. 세 발표를 관통하는 키워드: 규칙의 내면화
세션3의 세 발표는 모두 압력 → 적응의 구조를 갖고 있다.
| 발표 | 외부 압력 또는 규칙 | 적응 방식 |
|---|---|---|
| LLM 최후통첩 게임 | 인간 존재, 공정성 규범, RLHF | 인간적 분배 규범과 정체성 내면화 |
| 국제표준 네트워크 | 지정학적 위험, 무역 불확실성 | 표준 네트워크를 통한 수출 회복탄력성 확보 |
| CBAM | 탄소비용, 녹색무역장벽 | 수출 기술고도화와 저탄소 경쟁력 전환 |
과거의 경제주체는 가격, 비용, 생산량 중심으로 설명되는 경우가 많았다. 하지만 지금은 외부 규칙이 훨씬 중요해졌다.
AI에게는 인간 피드백과 사회적 규범이 규칙이다. 기업에게는 국제표준 네트워크가 규칙이다. 산업에게는 CBAM과 탄소회계가 규칙이다.
그래서 경쟁력의 정의도 바뀐다.
- AI는 얼마나 똑똑한가뿐 아니라 어떤 규범을 내면화했는가가 중요하다.
- 기업은 얼마나 싸게 잘 만드느냐뿐 아니라 표준 네트워크에 얼마나 연결되어 있는가가 중요하다.
- 산업은 얼마나 많이 수출하느냐뿐 아니라 탄소규칙 아래에서 얼마나 기술적으로 고도화되는가가 중요하다.
5. 이익극대화 이후의 경제주체들
세션3을 듣고 남은 생각은 이거다.
앞으로의 생산성은 규칙을 무시하고 효율만 높이는 능력이 아니라, 새로운 규칙을 읽고 행동방식을 재구성하는 능력에서 나온다.
LLM은 인간이라는 규칙을 배운다. 기업은 표준이라는 규칙 안에서 회복탄력성을 만든다. 산업은 탄소라는 규칙 앞에서 수출전략을 바꾼다.
이게 좋은 방향으로만 흐른다는 뜻은 아니다. 인간에게 공정하도록 훈련된 AI가 AI-to-AI 시장에서는 비효율을 만들 수도 있다. 표준 네트워크가 일부 기업에게만 유리한 진입장벽이 될 수도 있다. CBAM이 기술고도화 압력이 되면서도 동시에 개발도상국과 후발기업에게는 부담이 될 수도 있다.
하지만 분명한 건 하나다.
새로운 규칙을 읽지 못하는 주체는 점점 더 경쟁에서 멀어진다.
AI 시대와 녹색무역 시대의 생산성은 단순히 더 빠르게, 더 많이, 더 싸게 만드는 문제가 아니다. 인간 규범, 기술 표준, 탄소 규칙을 이해하고 그 안에서 전략을 다시 설계하는 능력의 문제다.
세션3은 그 변화를 AI, 기업, 산업이라는 세 장면에서 보여준 세션이었다.