그런데 이런것도 나름 선녀라면 선녀. 프로젝트 망하면서 번거없다 드립치는 친구들은 저렇게

Mira의 'Sterling' - 같은 AI 모델을 쓰는데도 성능이 다르다? (광고) 같은 이름의 서비스지만 성능이 제각각인 이유 요즘 AI 모델을 저렴하게 제공하는 API 업체들이 꽤 많아지고 있습니다. 재미있는 건 같은 모델을 사용한다고 해서 같은 성능이 나오는 건 아니라는 점입니다. 실제로 OpenAI의 오픈웨이트 모델인 gpt-oss-120b를 여러 업체에서 실행해 수학 문제를 풀게 했더니, AIME25 벤치마크 정답률이 36.7%에서 93.3%까지 차이가 났다고 합니다. AI 모델을 서비스하려면 GPU에 모델을 올려서 실행해야 하는데, 이 과정에서 비용을 줄이기 위해 모델을 압축하거나 추론 설정을 조정하는 경우가 있습니다. 그러다 보니 이용자 입장에서는 똑같은 모델을 선택하고 돈을 지불했는데도, 실제로는 업체마다 전혀 다른 품질의 답변을 받을 수 있다는 거죠. 문제는 우리가 API를 사용할 때 이런 차이를 미리 사전에 알기 어렵다는 점에 있어요. 그래서 Mira가 출시한 서비스 - 'Sterling' 원래 Mira Network는 AI가 생성한 답변을 여러 모델로 교차 검증하는 기술을 개발하던 프로젝트로, 이번에는 아예 AI 모델을 실행해 주는 업체들을 검증하고, 일정한 품질 기준을 통과한 제공업체를 통해 추론 서비스를 제공하는 Sterling을 출시했습니다. 쉽게 말해 AI 모델을 만들어낸 회사만 믿을 게 아니라, 그 모델을 실제로 서비스하는 업체가 제대로 돌리고 있는지도 확인하겠다는 것입니다. 또, 단순히 업체별 성능 비교에서 끝나는게 아니라, 이런 식으로 검증을 해준 업체들의 AI 추론 서비스를 직접 이용할 수 있도록 연결까지 해주는거죠. AI 에이전트처럼 모델을 수십, 수백 번 호출하는 서비스라면 답변 품질과 안정성이 정말 중요하다보니 꼭 검증이 필요한 중요한 영역이란 생각도 듭니다. Mira는 기존의 AI 답변 검증에 더해, AI를 실행하는 인프라의 품질까지 관리하는 방향으로 사업을 넓히려는 셈이네요. Sterling : https://sterling.mira.network/ (사용법) : 계정 로그인 후 제공되는 AI 모델과 이용 조건 확인 후 API 키 발급 -> 에이전트에 연결 #MIRA #KOL

192

46분 전