건축술

Gonka의 Transfer Agent란?

Gonka를 통해 신경망에 요청을 보내면 직접 GPU로 가는 것이 아니라 Transfer Agent라는 특별한 중개 노드로 이동합니다. 바로 이 Transfer Agent가 어떤 GPU가 요청을 처리할지 결정합니다. Transfer Agent가 없었다면 수천 개의 GPU로 구성된 네트워크는 혼란에 빠졌을 것입니다.

간단한 설명

택시 배차원을 상상해 보세요. 당신이 차를 부르면 배차원이 가장 가까운 빈 차를 찾아 당신에게 보냅니다. 당신은 모든 운전자의 번호와 위치를 알 필요가 없습니다. Transfer Agent도 비슷하게 작동합니다. AI 요청을 받아 적절한 사용 가능한 ML-node를 찾아 요청을 라우팅합니다.

Transfer Agent의 작동 방식

Transfer Agent는 사용자 또는 애플리케이션으로부터 들어오는 요청을 받습니다. 발신자의 서명과 잔액을 확인합니다. 적합한 모델과 사용 가능한 리소스를 가진 ML-node를 선택합니다. 선택된 노드로 요청을 전달하고 클라이언트에게 결과를 반환합니다. 모든 것이 밀리초 단위로 발생하며, 사용자는 중개자를 눈치채지 못합니다.

Transfer Agent가 필요한 이유

Transfer Agent가 없었다면 모든 클라이언트는 네트워크의 모든 GPU의 IP 주소를 알아야 했고, 독립적으로 부하를 확인하고 적절한 노드를 선택해야 했을 것입니다. 네트워크에 ~4,648개의 GPU가 있는 상황에서는 비실용적입니다. Transfer Agent는 로드 밸런싱, 서명 확인 및 라우팅 문제를 해결하여 최종 사용자에게 편리한 네트워크를 만듭니다.

Transfer Agent는 Gonka 네트워크의 배차원입니다. AI 요청을 받아 사용 가능한 GPU를 찾아 응답을 반환합니다. Transfer Agent가 없었다면 사용자는 수천 개의 노드 중에서 직접 올바른 노드를 찾아야 했을 것입니다.

더 자세히 알고 싶으세요?

GNK 경제를 이해하거나 지금 바로 수익을 창출하세요.

Gonka 네트워크 아키텍처 →

Gonka의 Transfer Agent란?

간단한 설명

Transfer Agent의 작동 방식

Transfer Agent가 필요한 이유

더 자세히 알고 싶으세요?

관련 읽기