튜링상 수상자 리처드 스UTTON, 순수 생성형 AI가 진정한 과학을 할 수 없다고 말한다

일반적인 생성형 AI는 입력 데이터를 기반으로 새로운 내용을 생성하는 기술로, 딥러닝과 대규모 언어 모델(Large Language Models, LLM)을 기반으로 합니다. 이는 텍스트, 이미지, 음성 등 다양한 형태의 데이터를 생성할 수 있지만, 생성된 결과를 자체적으로 평가하거나 검증하는 능력은 부족합니다. 리처드 스UTTON은 이러한 한계가 진정한 과학적 발견을 어렵게 만든다고 지적하며, AI가 스스로 생성한 결과를 평가하고 개선할 수 있는 내재적인 평가 루프가 필요하다고 강조합니다. 예를 들어 알파고나 알파프루프와 같은 시스템은 내부 평가 메커니즘을 통해 창의성을 발휘할 수 있었으며, 이는 생성형 AI의 한계를 보여주는 사례입니다.

이러한 기술적 한계는 소프트웨어 엔지니어와 개발자들에게 중요한 영향을 미칩니다. 생성형 AI를 활용한 프로젝트에서는 결과의 신뢰성과 정확성을 보장하기 위해 추가적인 검증 및 평가 프로세스가 필요합니다. 특히 과학 연구나 중요한 결정을 내리는 시스템에서는 AI의 생성 결과에 대한 외부 평가 체계를 구축해야 합니다. 또한, AI가 스스로 학습하고 개선할 수 있는 구조를 설계하는 것이 중요하며, 이는 개발자들이 AI 모델의 아키텍처와 평가 메커니즘을 고도화해야 함을 의미합니다.

개발자들은 생성형 AI의 한계를 인식하고, AI의 결과에 대한 신뢰성을 높이기 위해 자체 평가 시스템을 구축하거나 외부 검증 프로세스를 도입해야 합니다. 또한, AI가 창의성을 발휘할 수 있도록 하기 위해 평가 루프를 내재화하는 기술적 접근을 고려해야 합니다. 이는 단순한 생성 기능을 넘어 AI가 진정한 창의적 문제 해결 능력을 갖도록 하는 데 기여할 수 있습니다. 개발자들은 이러한 방향으로 기술을 발전시키고, AI의 한계를 극복하는 데 집중해야 합니다.