Kiến trúc

Transfer Agents trong Gonka là gì

Khi bạn gửi yêu cầu đến mạng thần kinh thông qua Gonka, nó không đến trực tiếp GPU mà đến Transfer Agent – một nút trung gian đặc biệt. Chính nó quyết định GPU nào sẽ xử lý yêu cầu của bạn. Nếu không có Transfer Agents, một mạng lưới hàng ngàn GPU sẽ trở thành hỗn loạn.

Giải thích đơn giản

Hãy tưởng tượng một người điều phối taxi. Bạn gọi xe – người điều phối tìm chiếc xe trống gần nhất và gửi đến bạn. Bạn không cần biết số của tất cả các tài xế và vị trí của họ. Transfer Agent hoạt động tương tự: nó nhận yêu cầu AI của bạn, tìm một ML-node trống phù hợp và định tuyến yêu cầu đến đó.

Cách Transfer Agents hoạt động

Transfer Agent nhận yêu cầu đến từ người dùng hoặc ứng dụng. Nó xác minh chữ ký và số dư của người gửi. Nó chọn một ML-node có mô hình phù hợp và tài nguyên có sẵn. Nó định tuyến yêu cầu đến nút đã chọn và trả về kết quả cho khách hàng. Mọi thứ diễn ra trong mili giây – người dùng không nhận thấy trung gian.

Tại sao cần Transfer Agents

Nếu không có Transfer Agents, mỗi khách hàng sẽ phải biết địa chỉ IP của tất cả GPU trong mạng, tự kiểm tra tải của chúng và chọn một nút phù hợp. Điều này không thực tế với khoảng ~4,648 GPU trong mạng. Transfer Agents giải quyết vấn đề cân bằng tải, xác minh chữ ký và định tuyến – làm cho mạng thuận tiện cho người dùng cuối.
Transfer Agent là người điều phối của mạng Gonka. Nó nhận yêu cầu AI của bạn, tìm một GPU có sẵn và trả về phản hồi. Nếu không có nó, người dùng sẽ phải tự tìm nút phù hợp trong số hàng ngàn nút.

Bạn muốn tìm hiểu thêm?

Hiểu rõ hơn về nền kinh tế GNK hoặc bắt đầu kiếm tiền ngay bây giờ.

Đọc thêm