작성자: a16z

인공지능 시스템은 원래 인간 규모에 맞춰 설계된 인터넷을 뒤흔들고 있습니다. 협업과 거래 비용을 사상 최저 수준으로 낮추고 있으며, 인공지능이 생성하는 음성, 영상, 텍스트는 인간의 행동과 점점 구별하기 어려워지고 있습니다. 우리는 이미 인간과 기계의 신원 확인 문제로 골머리를 앓고 있는데, 이제 인공지능 에이전트들이 인간처럼 상호작용하고 거래하기 시작했습니다.

문제의 핵심은 인공지능의 존재 자체가 아니라, 개인정보를 보호하고 사용 편의성을 보장하면서 인간과 기계를 구분할 수 있는 인터넷상의 고유한 메커니즘이 부재하다는 점입니다.

바로 이 지점에서 블록체인 기술이 중요한 역할을 합니다. 암호화 기술이 더 나은 인공지능 시스템을 구축하는 데 도움이 되고, 반대로 인공지능 또한 암호화 기술을 더욱 발전시킬 수 있다는 생각은 여러 가지 심오한 논리에 기반합니다. 여기서는 인공지능이 그 어느 때보다 블록체인을 필요로 하는 몇 가지 이유를 간략하게 정리합니다.

인공지능 사칭 비용을 인상하세요

인공지능은 목소리, 얼굴 특징, 글쓰기 스타일, 비디오 콘텐츠는 물론 완벽한 소셜 페르소나까지 모방할 수 있으며, 대규모로 운영될 수 있습니다. 단일 지능형 에이전트가 수천 개의 계정을 사칭하여 다양한 관점, 소비자 또는 유권자를 흉내낼 수 있으며, 이러한 운영 비용은 지속적으로 감소하고 있습니다.

이러한 유형의 사칭은 새로운 것이 아닙니다. 악의적인 의도를 가진 사기꾼이라면 예전부터 성우를 고용하고, 전화번호를 위조하고, 피싱 문자 메시지를 보낼 수 있었습니다. 진정한 변화는 비용에 있습니다. 오늘날 이러한 사기 공격을 대규모로 실행하는 데 드는 장벽이 크게 낮아졌습니다.

한편, 대부분의 온라인 서비스는 "하나의 계정이 하나의 실제 사용자에 대응한다"는 전제를 깔고 있습니다. 이 전제가 충족되지 않으면 전체 시스템이 붕괴될 것입니다. 인공지능의 발전 속도가 이를 막기 위해 특별히 설계된 탐지 기술의 발전 속도를 훨씬 앞지르기 때문에 (인간 인증과 같은) 탐지 기반 대응책은 결국 실패할 것입니다.

그렇다면 블록체인은 어떻게 작동할까요? 분산형 신원 확인 시스템을 통해 사용자는 간편하게 단일 신원 인증을 완료할 수 있으며, 근본적으로 한 사람이 여러 개의 신원을 갖는 것을 방지합니다. 예를 들어, 사용자가 홍채 스캔을 통해 글로벌 신원을 얻는 것은 간단하고 경제적일 수 있지만, 두 번째 신원을 얻는 것은 사실상 불가능합니다.

블록체인은 발급되는 신원 토큰의 수를 제한하고 공격자의 한계 비용을 증가시킴으로써 인공지능이 대규모 사칭 공격을 수행하기 어렵게 만듭니다.

인공지능은 콘텐츠를 위조할 수 있지만, 암호화 기술 덕분에 극히 낮은 비용으로 고유한 인간 신원을 위조하는 것은 불가능합니다. 블록체인은 신원 정보 계층에서 희소성을 재구성함으로써 사칭에 필요한 한계 비용을 높이는 동시에 일반적인 인간 사용에는 추가적인 저항을 가하지 않습니다.

분산형 인간 신원 확인 시스템 구축

인간의 신원을 증명하는 한 가지 방법은 디지털 신원 토큰을 사용하는 것입니다. 디지털 신원 토큰에는 사용자 이름, 개인 식별 번호, 비밀번호, 제3자 검증(시민권, 신용도 등) 및 기타 관련 자격 증명과 같이 사람들이 신원을 확인하는 데 사용할 수 있는 모든 정보가 포함됩니다.

암호화 기술이 제공하는 가치는 무엇일까요? 바로 탈중앙화입니다. 인터넷의 핵심에 있는 중앙 집중식 신원 확인 시스템은 전체 시스템의 실패 원인이 될 수 있습니다. 인공지능(AI) 에이전트가 거래, 소통, 협업에서 인간을 대신할 때, 신원 확인 권한을 가진 자가 사실상 참여 권한까지 통제하게 됩니다. 중앙 집중식 발급 기관은 임의로 사용자 권한을 취소하고, 수수료를 부과하며, 심지어 감시 활동에까지 관여할 수 있습니다.

탈중앙화는 이러한 패턴을 완전히 뒤집었습니다. 플랫폼 관리자가 아닌 사용자가 자신의 신원 정보를 직접 관리하게 되면서 신원 확인이 더욱 안전하고 검열에 대한 저항력이 커졌습니다.

기존의 신원 확인 시스템과 달리, 분산형 인적 검증 메커니즘은 사용자가 자신의 신원 정보를 직접 관리하고 보호할 수 있도록 하며, 개인 정보 보호를 철저히 준수하고 완전히 중립적인 방식으로 인적 검증을 완료할 수 있도록 합니다.

AI 에이전트를 위한 휴대 가능하고 범용적인 "디지털 여권"을 만듭니다.

AI 에이전트는 단일 플랫폼에만 존재하는 것이 아닙니다. 지능형 에이전트는 다양한 채팅 애플리케이션, 이메일 대화, 전화 통화, 웹 브라우저 세션 및 애플리케이션 프로그래밍 인터페이스(API)에 동시에 나타날 수 있습니다. 그러나 현재로서는 이러한 다양한 시나리오에서의 상호 작용이 모두 동일한 상태와 기능을 가진 동일한 AI 에이전트에서 발생했으며, 해당 에이전트의 "소유자"로부터 권한을 부여받았음을 확인할 수 있는 신뢰할 만한 메커니즘이 없습니다.

AI 에이전트는 단일 플랫폼에만 존재하는 것이 아닙니다. 지능형 에이전트는 다양한 채팅 애플리케이션, 이메일 대화, 전화 통화, 웹 브라우저 세션 및 애플리케이션 프로그래밍 인터페이스(API)에 동시에 나타날 수 있습니다. 그러나 현재로서는 이러한 다양한 시나리오에서의 상호 작용이 모두 동일한 상태와 기능을 가진 동일한 AI 에이전트에서 발생했으며, 해당 에이전트의 "소유자"로부터 권한을 부여받았음을 확인할 수 있는 신뢰할 만한 메커니즘이 없습니다.

더욱이, AI 에이전트의 정체성이 특정 플랫폼이나 마켓플레이스에만 국한될 경우, 다른 제품이나 중요한 시나리오에서 활용될 수 없게 됩니다. 이는 AI 에이전트의 사용자 경험을 단편화시키고, 특정 시나리오에 맞게 에이전트를 조정하는 과정을 번거롭고 비효율적으로 만듭니다.

블록체인 기반 신원 레이어는 AI 에이전트를 위한 휴대 가능하고 범용적인 "디지털 여권"을 생성할 수 있습니다. 이러한 신원은 에이전트의 기능, 권한, 결제 단말기 정보와 연결될 수 있으며, 어떤 상황에서도 검증이 가능하므로 AI 에이전트 사칭이 훨씬 어려워집니다. 또한 개발자는 이를 통해 더욱 실용적인 AI 에이전트를 개발하여 사용자 경험을 향상시킬 수 있습니다. 즉, 에이전트가 특정 플랫폼에 종속될 걱정 없이 다양한 생태계에서 실행될 수 있습니다.

대규모 결제 거래 달성

인공지능 에이전트가 인간을 대신하여 거래의 중개자 역할을 점점 더 많이 수행함에 따라 기존 결제 시스템은 상당한 병목 현상을 일으키고 있습니다. 대규모 지능형 에이전트 결제를 위해서는 완전히 새로운 인프라, 즉 여러 출처에서 발생하는 소액 거래를 처리할 수 있는 마이크로 결제 시스템이 필요합니다.

현재 롤링 스케일링 솔루션, 레이어 2 네트워크, AI 기반 금융 기관, 금융 인프라 프로토콜 등 다양한 블록체인 기반 도구들이 이 문제를 해결할 수 있는 잠재력을 보여주고 있으며, 이를 통해 거의 제로에 가까운 거래 비용과 더욱 세분화된 결제 분할이 가능해지고 있습니다.

핵심은 이러한 블록체인 결제 인프라가 기존 금융 시스템으로는 처리할 수 없는 소액 결제, 빈번한 상호 작용, 지능형 에이전트 간의 비즈니스 거래 등 기계 규모의 거래를 지원할 수 있다는 점입니다.

인공지능 시스템에서 개인정보 보호

많은 보안 시스템의 핵심에는 역설이 존재합니다. 사용자를 보호하기 위해 수집되는 데이터가 많을수록 인공지능이 사용자를 사칭하기가 더 쉬워진다는 것입니다.

이러한 맥락에서 개인정보 보호와 보안은 동일한 문제로 귀결됩니다. 우리의 과제는 인간 신원 확인 시스템이 본질적으로 개인정보 보호 속성을 갖도록 하고, 모든 단계에서 민감한 정보를 숨기며, 오직 진짜 사람만이 자신의 신원을 증명하는 데 필요한 정보를 제공할 수 있도록 보장하는 것입니다.

블록체인 기반 시스템과 영지식 증명 기술의 결합을 통해 사용자는 개인 식별 번호, 신분증 번호, ​​자격 기준과 같은 특정 사실을 증명할 수 있지만, 운전면허증에 기재된 주소와 같은 기본 원시 데이터는 공개할 수 없습니다.

이러한 방식으로 애플리케이션 개발자는 필요한 인증 보장을 확보하는 동시에 AI 시스템은 사칭에 필요한 원시 데이터를 얻지 못하게 됩니다. 개인정보 보호는 더 이상 부가 기능이 아니라 AI 사칭에 대한 핵심 방어 수단이 됩니다.

요약

인공지능은 대규모 운영 비용을 크게 절감했지만, 신뢰 구축에는 어려움을 초래했습니다. 반면 블록체인 기술은 신뢰 시스템을 재편할 수 있습니다. 블록체인 기술은 신분 도용 비용을 높이고, 인간 규모의 상호작용 패턴을 유지하며, 신원 시스템을 분산화하고, 개인정보 보호를 기본 설정으로 만들고, AI 에이전트에 고유한 경제적 제약을 부여합니다.

인공지능 에이전트가 신뢰를 훼손하지 않고 제대로 작동할 수 있는 인터넷을 구축하려면 블록체인은 선택 사항이 아니라, 인공지능에 최적화된 인터넷을 구축하기 위한 핵심 기반 기술이며, 현재 인터넷에서 부족한 핵심 요소입니다.