[르포] "95%는 실패한다. 우리는 5%에 들 수 있을까?" SF AI컨퍼런스
전시장 한편에는 각종 기업 부스가 미로처럼 펼쳐져 있다. 기업들은 방문객의 시선을 끌기 위해 갖가지 물건을 나눠줬다. 회사 컬러로 염색한 튜브 양말, 기라델리 초콜릿, 작은 인형, 루빅스 큐브, 휴대폰 충전기, 심지어 코코넛에 빨대를 꽂아 만든 음료수까지. 한 부스에서는 AI로 보정한 '멋진 헤드샷'을 찍어주는데, 락스타 콘셉트까지 선택할 수 있다. 흥미로운 것은 부스들의 양극화된 성격이다. 절반 정도는 기업의 업무 흐름에 AI '에이전트'를 추가할 수 있는 인프라와 소프트웨어를 판매한다. 나머지 절반은 정반대로, 그 AI를 감시하고 관리하는 '가디언 에이전트'를 파는 곳이다. AI가 언제든 통제 불능 상태에 빠질 수 있다는 전제 아래 설계된 제품들이다."가드레일이 필요합니다." 샌프란시스코 스타트업 트러스트3 AI(Trust3AI)의 마케팅 부사장 이비 라마니의 말이다. 그의 회사는 주로 보험사와 은행을 대상으로 AI '책임성' 플랫폼을 제공한다. AI는 예측 불가능하고, 잘못된 정보를 내놓을 수 있으며, 개인정보 보호 규정을 쉽게 위반한다. 인간 직원들이 관리팀에 알리지 않고 자체적으로 AI 봇을 만들어 사용하면서 혼란은 더 가중된다."지금은 허니문 시기지만, 곧 현실이 닥칠 겁니다." 라마니는 침착한 어조로 경고했다.또 다른 회사 마크업(Markup)은 AI가 생성한 콘텐츠를 검토하고 수정해 기업의 '톤, 품질, 정확성' 기준에 맞추는 서비스를 제공한다고 CEO 매트 블룸버그(Matt Blumberg)는 설명했다. 샌마테이오의 스타트업 넥슬라(Nexla)는 여러 레스토랑이나 음식점의 주문을 하나의 배달 앱으로 통합하는 것처럼, 서로 다른 시스템의 데이터를 '연결'하는 일이 전문이다.