비탈릭: 이더리움의 목표는 인류에게 자유를 주는 것이며, 인류와 AI의 피드백 거리를 늘리는 것은 좋은 일이 아니다

이더리움 공동 창립자 비탈릭 부테린(Vitalik Buterin)은 X 플랫폼에 글을 올리며, 인간과 인공지능 간의 피드백 거리를 늘리는 것이 좋은 일이 아니라고 밝혔습니다. 현재 이러한 추세는 AI가 저품질 콘텐츠를 생성하게 만들고, 실제로 인간의 문제를 해결하기보다는 오히려 오락 경험 측면에서도 좋은 최적화를 이루지 못하고 있습니다.

비탈릭은 AI가 충분히 강력해지고 잠재적으로 위험한 단계에 도달하면, 이러한 발전 경로가 되돌릴 수 없는 반인류 결과의 위험을 극대화할 수 있으며, 심지어 추진자 자신도 깊은 후회를 느낄 수 있다고 경고했습니다. 이더리움의 목표는 인간에게 자유를 주는 것이지, 스스로 작동하지만 인간의 처지를 개선하지 않거나 심지어 악화시키는 시스템을 만드는 것이 아닙니다.

또한, 비탈릭 부테린은 현재 주류 모델이 OpenAI와 Anthropic과 같은 중앙화된 기관의 인프라 위에서 운영되고 있으며, 진정한 자주권이 아니라고 지적했습니다. 이러한 중앙화된 신뢰 가정의 무시는 이더리움이 반대하는 이념과 정반대입니다.

기술의 지수적 성장 추세는 본질적으로 막기 어렵기 때문에, 현재 시대의 핵심 과제는 지수적 확장을 더욱 가속화하는 것이 아니라, 그 발전 방향을 안내하고 시스템이 통제 불능 또는 바람직하지 않은 끌어당김 상태로 나아가는 것을 피하는 것입니다.