علم کے مرکز کے حصے ▾

نیویگیشن

▸ یہاں سے شروع کریں کردار کے لحاظ سے

زمرہ جات

ٹولز 37
لغت 12

ٹولز

LangChain + Gonka AI – AI ایپلیکیشنز بہت کم قیمت پر

LangChain، Python اور JavaScript میں AI ایپلیکیشنز بنانے کے لیے سب سے مقبول فریم ورک ہے۔ RAG-پائپ لائنز، چینز (chains)، ایجنٹس، اور دستاویزات کے ساتھ کام کرنے کے لیے LangChain ہر چیز کے لیے ایبٹریکشن فراہم کرتا ہے۔

LangChain مقامی طور پر ChatOpenAI کلاس کے ذریعے OpenAI-compatible API کو سپورٹ کرتا ہے۔ اس کا مطلب ہے کہ JoinGonka Gateway کو صرف 3 لائنوں کے کوڈ میں ضم (integrate) کیا جا سکتا ہے — بغیر کسی اضافی پیکجز یا سیٹنگز کے۔

نتیجہ: ایک RAG-سسٹم، چیٹ بوٹ یا AI-ایجنٹ، جو OpenAI کے $2.50-15 کے مقابلے میں صرف $0.0047 فی 1M ٹوکنز پر کام کرتا ہے۔

فوری آغاز: کوڈ کی 3 لائنز

ایک مختصر مثال — LangChain کو Gonka کے ساتھ کنیکٹ کرنے کا طریقہ:

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-آپ-کی-کلید",
    model="MiniMaxAI/MiniMax-M2.7",
)

response = llm.invoke("RAG کیا ہے سمجھائیں")
print(response.content)

بس اتنا ہی۔ صرف تین لائنیں — اور آپ کا LangChain پروجیکٹ غیر مرکزی Gonka نیٹ ورک کے ذریعے انتہائی کم قیمت پر چلتا ہے۔

ڈیپینڈنسی انسٹالیشن:

pip install langchain langchain-openai

تجویز: واضح طور پر max_tokens=8192 بتائیں — JoinGonka Gateway کے ذریعے تمام نیٹ ورک ماڈلز کے لیے آؤٹ پٹ کی یہی حد ہے۔ نیٹ ورک ماڈل کی کنٹیکسٹ ونڈو 200K ٹوکن ہے — RAG پائپ لائنز میں chunk_size سیٹ کرتے وقت اس کا خیال رکھیں۔

مثال: Gonka کے ساتھ RAG-پائپ لائن

RAG (Retrieval-Augmented Generation) — AI ایپلی کیشنز کا سب سے مقبول پیٹرن ہے۔ دستاویزات اپ لوڈ کریں، انہیں چنکس میں تقسیم کریں، ایمبیڈنگز بنائیں، متعلقہ ٹکڑے تلاش کریں اور کانٹیکسٹ کے ساتھ جواب تیار کریں۔

from langchain_openai import ChatOpenAI
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.chains import RetrievalQA
from langchain_community.vectorstores import FAISS
from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain_community.document_loaders import TextLoader

# 1. Gonka کے ذریعے LLM
llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-ваш-ключ",
    model="MiniMaxAI/MiniMax-M2.7",
    streaming=True,
)

# 2. دستاویز لوڈنگ اور انڈیکسنگ
loader = TextLoader("docs/my_document.txt")
docs = loader.load()
splitter = RecursiveCharacterTextSplitter(chunk_size=1000)
chunks = splitter.split_documents(docs)

# 3. ویکٹر اسٹوریج (لوکل، مفت)
embeddings = HuggingFaceEmbeddings()
vectorstore = FAISS.from_documents(chunks, embeddings)

# 4. RAG چین
qa = RetrievalQA.from_chain_type(
    llm=llm,
    retriever=vectorstore.as_retriever(),
)

# 5. کوئری
result = qa.invoke("یہ دستاویز کس بارے میں ہے؟")
print(result["result"])

لاگت: ایک RAG-پائپ لائن ریکوسٹ (retrieval + generation) تقریباً 2-5K LLM ٹوکن استعمال کرتی ہے۔ Gonka کے ذریعے یہ $0.00001-$0.000024 ہے۔ OpenAI کے ذریعے — $0.005-$0.05۔ فرق — 1,300 گنا۔

پروڈکشن سسٹمز کے لیے جو روزانہ ہزاروں ریکوسٹس پروسیس کرتے ہیں، یہ بچت ماہانہ دسیوں ہزار ڈالرز کے برابر ہے۔

مثال: ٹول کالنگ کے ساتھ AI ایجنٹ

LangChain ٹولز کے ساتھ ایجنٹس بنانے کی اجازت دیتا ہے۔ Kimi K2.6 مقامی ٹول کالنگ کو سپورٹ کرتا ہے — ایجنٹس ٹیکسٹ جوابات کو پارس کیے بغیر، قابل اعتماد طریقے سے کام کرتے ہیں۔

from langchain_openai import ChatOpenAI
from langchain.agents import create_openai_tools_agent, AgentExecutor
from langchain.tools import tool
from langchain.prompts import ChatPromptTemplate

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-آپ-کی-کی",
    model="MiniMaxAI/MiniMax-M2.7",
)

@tool
def calculator(expression: str) -> str:
    """ریاضی کے اظہار کا حساب لگاتا ہے۔"""
    return str(eval(expression))

@tool
def search_web(query: str) -> str:
    """انٹرنیٹ پر معلومات تلاش کرتا ہے۔"""
    return f"تلاش کے نتائج برائے: {query}"

prompt = ChatPromptTemplate.from_messages([
    ("system", "آپ ایک مددگار اسسٹنٹ ہیں۔"),
    ("human", "{input}"),
    ("placeholder", "{agent_scratchpad}"),
])

agent = create_openai_tools_agent(llm, [calculator, search_web], prompt)
executor = AgentExecutor(agent=agent, tools=[calculator, search_web])

result = executor.invoke({"input": "2**10 * 3.14 کتنا ہوتا ہے؟"})
print(result["output"])

ایجنٹ `calculator` کو کال کرتا ہے، نتیجہ حاصل کرتا ہے اور جواب تشکیل دیتا ہے۔ پورا سائیکل Gonka کے ذریعے ~$0.00005 لاگت کرتا ہے۔ OpenAI کے ذریعے — $0.01-0.05۔ ہزاروں صارفین والے سسٹمز کے لیے یہ دسیوں ہزار ڈالرز کا فرق ہے۔

LangChain + Gonka = انتہائی کم قیمت پر production-ready AI-ایپلیکیشنز۔ RAG، ایجنٹس، چینز — سب کچھ ChatOpenAI کے ساتھ 3 لائنوں کے کوڈ میں۔ لاگت — $0.0047 فی 1M ٹوکنز، نیٹیو tool calling، اور اسٹریمنگ کے ساتھ۔

مزید جاننا چاہتے ہیں؟

دیگر حصوں کو دریافت کریں یا ابھی GNK کمانا شروع کریں۔

فری ٹوکنز حاصل کریں →