위험하다고 평가된 AI 모델, 이제 사용 가능
앤트로픽은 화요일 클로드 페이블 5를 일반에 공개했다. 이는 회사가 이전에 대중 공개에 너무 강력하다고 설명했던 클로드 미토스 AI 모델의 버전이다. 이 모델은 4월 비공개 시연 당시 기술, 금융, 정부 지도자들 사이에서 심각한 우려를 불러일으켰다. 앤트로픽은 이처럼 강력한 모델을 출시하는 데 위험이 따르지만, 안전 장치와 사용자 제한을 마련했다고 인정했다.
테스터들이 발견한 1만 개 보안 결함
미토스에 조기 접근한 약 150개 그룹은 자사 시스템에서 1만 개 이상의 중요한 보안 결함을 발견했다고 보고했다. 앤트로픽은 페이블과 미토스 모두 이전 클로드 모델보다 더 오랜 시간 인간 명령을 자율적으로 수행할 수 있다고 밝혔다. 회사는 곧 광범위한 신뢰할 수 있는 접근 프로그램을 통해 전체 미토스 5에 대한 접근을 확대할 계획이다.
앤트로픽, 1조 달러 가치 평가 접근, IPO 예상
앤트로픽은 곧 상장 기업이 될 것으로 예상되며, 비공개 평가액이 1조 달러에 근접하고 있다. 공동 창업자 잭 클라크는 최근 BBC 뉴스나이트에 AI 능력이 너무 빠르게 확장되고 있어 대중이 기술 발전을 늦출 방법이 있어야 한다고 말했다. 현재 AI 업계에는 가속 페달만 있고 브레이크 페달은 없다고 그는 덧붙였다.