건축술
Gonka의 Transfer Agent란?
Gonka를 통해 신경망에 요청을 보내면, 요청은 GPU로 직접 전달되는 것이 아니라 Transfer Agent라고 불리는 특수 중개 노드로 전달됩니다. 이 노드가 어떤 GPU가 요청을 처리할지 결정합니다. Transfer Agents가 없다면 1,053개의 GPU로 구성된 네트워크는 혼란에 빠질 것입니다.
간단한 설명
택시 배차원을 상상해 보세요. 당신이 차를 부르면 배차원이 가장 가까운 빈 차를 찾아 당신에게 보냅니다. 당신은 모든 운전자의 번호와 위치를 알 필요가 없습니다. Transfer Agent도 비슷하게 작동합니다. AI 요청을 받아 적절한 사용 가능한 ML-node를 찾아 요청을 라우팅합니다.
Transfer Agent의 작동 방식
Transfer Agent는 사용자 또는 애플리케이션으로부터 들어오는 요청을 받습니다. 발신자의 서명과 잔액을 확인합니다. 적합한 모델과 사용 가능한 리소스를 가진 ML-node를 선택합니다. 선택된 노드로 요청을 전달하고 클라이언트에게 결과를 반환합니다. 모든 것이 밀리초 단위로 발생하며, 사용자는 중개자를 눈치채지 못합니다.
Transfer Agent가 필요한 이유
Transfer Agents가 없다면 각 클라이언트는 네트워크 내의 모든 GPU IP 주소를 알고 있어야 하며, 직접 부하 상태를 확인하고 적절한 노드를 선택해야 합니다. 이는 1,053개의 GPU가 있는 네트워크에서는 비실용적입니다. Transfer Agents는 부하 분산, 서명 검증, 라우팅 작업을 처리하여 최종 사용자에게 네트워크를 편리하게 만듭니다.
Transfer Agent는 Gonka 네트워크의 디스패처입니다. AI 요청을 받아 빈 GPU를 찾아 응답을 반환합니다. 이것이 없다면 사용자는 네트워크 전체에서 직접 빈 노드를 찾아야 했을 것입니다.
관련 읽기
기술
Proof of Work 2.0이란 무엇인가
기술
Proof-of-Computation V2: 노드의 정직성을 확인하는 방법
기본 개념
inference (추론)란 무엇인가
토크노믹스
GNK 분배 방식: 제네시스 vs 수익
보안
담보 및 슬래싱: 네트워크는 어떻게 보호되는가
토크노믹스
베스팅: 보상이 즉시 지급되지 않는 이유
기술
DiLoCo: Gonka의 분산 모델 학습
기술
Sprint: Gonka 컨센서스의 작동 방식
기본 개념
GNK는 무엇인가: Gonka 네트워크 토큰
기본 개념
Gonka의 에포크: 네트워크 시간 단위
토큰경제학
Community Pool: Gonka 생태계의 공동 기금