요약
중견 법률 사무소인 Ropers Majeski는 AI 기반 솔루션을 통해 다양한 데이터 처리 작업을 자동화하여 운영을 간소화하면서도, 데이터 보안 및 규정 준수를 보장하고자 했습니다. 고성능 4세대 인텔® 제온® 프로세서 기반의 다계층 AI 시스템 제작을 위해 인텔, Activeloop, ZERO Systems와 파트너 관계를 맺었습니다. 이 솔루션은 데이터 보안을 유지하면서 작업자 생산성을 크게 향상했습니다.
과제: 빠르고 안전한 데이터 처리
Ropers Majeski 법률 사무소는 70년 이상 전 세계 고객에게 고품질의 법률 자문 서비스를 제공했습니다. 이 회사는 문서 기록, 분류, 시간 기록, 보관, 정보 검색을 비롯한 다양한 작업을 자동화할 방법을 찾고 있었습니다. 법률 사무소의 지식 근로자는 보통 이러한 작업을 직접 수행해야 했으며, 이에 따라 정확성 문제가 발생하고, 고도로 숙련된 인력이 청구 불가한 귀중한 시간을 소비했습니다.
모든 자동화 솔루션은 빠르고 안정적이며 대량의 데이터를 처리하여 규제 준수를 보장할 수 있어야 합니다. 또한 민감한 고객 정보를 처리하는 데 필요한 보안 요구 사항을 충족해야 합니다. 예를 들어, 모든 데이터는 사내에 보관해야 하고, 공급업체는 기밀 문서에서 액세스할 수 없어야 합니다.
Ropers Majeski는 인텔, Activeloop, ZERO Systems와 파트너 관계를 맺어 고급 하드웨어와 데이터 스토리지를 대규모 언어 모델 기반의 생성형 AI 솔루션을 결합함으로써 강력하고 믿을 수 있으며 안전한 AI 기반 솔루션을 제작했습니다.
솔루션: 다계층 AI 접근 방식
Ropers Majeski는 인텔, Activeloop, ZERO Systems와 파트너 관계를 맺어 고급 하드웨어와 데이터 스토리지를 커스텀 대규모 언어 모델(LLM) 기반의 생성형 AI 솔루션을 결합함으로써 강력하고 믿을 수 있으며 더 안전한 AI 기반 솔루션을 제작했습니다. ZERO Systems의 독점 AI 엔진인 Hercules는 기밀 고객 자료의 라벨링, 분류, 색인화 작업을 위한 생성형 AI 응용 프로그램, 그리고 이메일 등의 콘텐츠 생성을 지원합니다.
안전한 엔터프라이즈급 스토리지는 AI 데이터베이스인 Activeloop의 Deep Lake로 확보했습니다. 이를 통해 수백만 개의 민감한 문서에 대한 임베딩과 다중 모달 데이터를 모두 저장할 수 있었고, ZERO Systems의 솔루션에 고급 역할 기반 액세스 제어를 제공했습니다.
"이러한 전략적 파트너십은 법률 업계 및 기타 고도로 규제가 심한 산업에 생성형 AI를 통합하는 시작에 불과합니다."—ZERO Systems의 공동 설립자 겸 CTO, Gevorg Karapetyan
4세대 인텔® 제온® 스케일러블 프로세서는 고객이 고가의 독점 솔루션에 대한 투자를 피할 수 있도록 하는 컴퓨팅 성능을 제공했습니다. AI 추론에 최적화된 해당 CPU는 딥 러닝 외의 컨텍스트 또는 응용 프로그램에서 사용되는 벡터를 계산하는 데 도움이 되는 인텔® Advanced Vector Extensions 512(인텔® AVX-512), AI 가속을 위해 하드웨어 지원을 내장한 인텔® Advanced Matrix Extensions와 같은 임베디드 가속기를 통해 성능과 효율성을 크게 향상했습니다.
Activeloop 및 ZERO Systems는 기술 지원과 다채널 시장 공략 활동을 통해 성장을 견인하여 회원을 지원하는 인텔® Disruptor Initiative를 통해 연결되었습니다.
AI의 힘을 활용하고 엔터프라이즈 전체 환경에서 응용 프로그램을 가속화합니다. 인텔 제온 기반 AI가 어떻게 작동하는지 알아보십시오.
결과: 빨라진 속도, 높아진 생산성
다계층 시스템을 가동한 후, Ropers Majeski는 지식 근로자의 생산성이 18.5% 증가하여, 사용자당 일일 평균 75분을 절감한 것을 확인했습니다1. 이 솔루션은 이메일 처리, 문서 분류, 보고서 작성 등의 작업을 자동화하여 문서 수집 속도를 2.3배 향상했습니다.2
이를 통해 실시간에 가까운 정보와 인사이트 검색 등 효율성이 향상되어, 직원은 정확성을 저하하지 않고 청구 가능한 근무 시간에 집중할 수 있었습니다. 또한 AI 시스템은 직원이 인터넷에 액세스할 수 없을 때에도 이메일과 문서뿐만 아니라 작업자 활동에 기반하여 근무 시간표를 생성할 수 있도록 지원합니다.
"인텔 혁신 팀은 모든 파트너에게 매우 정성을 다합니다. 이는 다른 회사와의 협력관계에서는 자주 볼 수 없는, 저희가 높게 평가하는 부분입니다. 사실, 스타트업에는 적합하지 않는 조언을 많이 듣게 되는데, 대기업과 파트너를 맺으라는 것이 그중 하나죠. 하지만 저는 인텔은 예외라는 걸 확실히 말씀드릴 수 있습니다."—Activeloop CEO, Davit Buniatyan
인텔 AVX-512 덕분에 4세대 인텔® 제온® 스케일러블 프로세서는 각 클럭 사이클마다 더 많은 작업처리를 할 수 있어 Activeloop의 Serverless Tensor Query Engine의 쿼리 검색 속도를 100배 향상할 수 있습니다.3 그 결과 법률 기술과 같이 규제가 심한 환경에서 필수인 엄격한 보안 요건을 충족했습니다.
"인텔 Disruptor Program의 일환으로 ZERO Systems 및 Activeloop와 협력하여 최종 고객 Ropers Majeski에 큰 가치를 제공하게 되어 매우 기쁩니다."라고 인텔사 CSV Group의 Enterprise Analytics & AI의 CTO 겸 Head of Strategy Cloud and Enterprise인 Arijit Bandyopadhyay가 설명합니다. "인텔 AMX와 같은 실리콘 AI 가속기 및 기타 IA 기반 소프트웨어-하드웨어 자산을 활용하는 인텔 최신 세대 CPU에서 Gen-AI 솔루션의 성능과 TCO 최적화는 전반적인 솔루션에 일관된 이점과 안전한 오퍼링을 제공하는 데 큰 도움이 됩니다."
"인텔 CPU가 빛나는 부분이 여기입니다"라고 Activeloop의 CEO인 Davit Buniatyan가 말합니다. GPU 가용성이 제한될 때 인텔 프로세서는 LLM을 실행하고 미세 조정할 컴퓨팅 리소스를 제공합니다. "Deep Lake의 우수한 데이터로더와 Tensor Query Engine을 이용하는 ZERO와 같은 선구 기업은 인텔 CPU에서 훨씬 더 적은 비용으로 획기적인 Gen AI 제품을 개발할 수 있습니다."
"게다가 기업은 값비싼 새 하드웨어에 투자하지 않고도 이미 익숙한 기존 아키텍처를 사용할 수 있습니다."라고 ZERO Systems의 CTO인 Gevorg Karapetyan이 말합니다. "CPU에 솔루션을 구현하면 훨씬 더 효율적이고 비용 효율적일 뿐만 아니라, 고객이 기다릴 필요 없이 당장 배포하기가 훨씬 수월해집니다."
"기존 인텔 시스템을 쓸 수 있다는 사실에 매우 만족스럽고, 계속해서 고급 AI 기술을 활용하여 운영을 간소화할 수 있을 것으로 기대합니다."라고 Ropers Majeski의 IT 이사인 Maks Agamir가 말합니다.
인텔과 Activeloop, ZERO Systems의 협업으로 제공되는 AI 솔루션은 반복 작업을 자동화하여 Ropers Majeski의 숙련된 지식 근로자가 성과를 향상할 수 있게 할 것이라고 Agamir는 설명했습니다. "우리의 주요 사업은 기술이 아니라, 법률입니다."라고 말합니다. "변호사 및 법률 전문가의 만족도가 높아졌습니다. 하루가 끝날 때 이메일과 문서를 일일이 분석하며 앉아있는 대신, 그저 확인만 하고 좋아, 다 됐네라고 하면 되니까요. AI가 다 했지요"