기존 AI 에이전트의 단점을 극복한 새로운 모델의 필요성 제기
- 많은 소프트웨어 개발자들은 필요한 코드를 얻기 위해 일상적으로 대규모 언어모델(LLM)을 사용하며, 이때 단순히 코드를 생성할 뿐 아니라 실행하거나 파일 수정 및 추가 소프트웨어 활용을 돕는 AI 에이전트를 사용할 수 있다면 생산성은 훨씬 높아질 것임
- 하지만 기존 AI 에이전트는 특히 안전성과 보안 측면에서 한계를 지니고 있어 학계나 중소기업에서 널리 활용되기 어렵다는 한계점이 있었음
CASUS, 오픈소스 프레임워크 ‘Terok’ 공개
- 독일의 헬름홀츠 드레스덴-로센도르프 연구센터(HZDR)와 고등시스템 이해센터(CASUS) 연구진은 책임감 있는 방식으로 AI 에이전트의 가능성을 탐색하는 새로운 프레임워크를 개발함
- 연구진이 공개한 오픈소스 소프트웨어 도구 ‘Terok’은 에이전트형 AI 프로그래밍을 위한 환경을 제공하는데, 독특한 기능 조합과 보안 장치를 갖추고 있으며 상용 LLM뿐 아니라 자체 호스팅 LLM과도 연동이 가능함
- AI 보조 코딩은 일반적으로 LLM과 대화하듯 프롬프트를 입력해 원하는 코드를 생성하는 ‘챗봇 모드’ 형태로 사용되나, AI 에이전트는 여기서 한 단계 나아가 인간 프로그래머처럼 자율적인 방식으로 작동하게 되어 사용자 개입이 거의 필요하지 않다는 장점이 있음
- 연구진은 과학 코딩 분야에서 AI 에이전트가 지닌 잠재력을 높게 평가하면서도, 안전성과 보안 면에서 기존 도구를 실제 과학 프로젝트에 적용하는 데 어려움을 겪기도 했는데 이러한 취약점을 해결하고자 Terok을 설계함
에이전트형 AI를 위한 안전 및 보안망 프레임워크, Terok
- Terok은 컨테이너 기술과 다양한 보안 기능을 활용해 AI 에이전트가 로컬 하드웨어에서 어떻게 동작하는지를 제어하며, Terok 자체는 AI 에이전트가 아니라 사용자가 접근 가능한 여러 LLM을 자유롭게 전환하여 사용할 수 있도록 해주는 프레임워크에 가까움
- 또한 간편한 설치를 통해 여러 프로젝트를 동시에 관리할 수 있으며, 프로젝트별로 병렬 작업도 수행할 수 있도록 설계됨
- 끝으로 연구팀은 앞으로 사용자 커뮤니티의 의견을 적극적으로 듣고, Terok의 추가 개발에 함께할 참여자들을 환영한다고 밝힘
