توسعه راهکارهای توزیع شده کارا | Kara

کامپیوتر، فناوری اطلاعات و اینترنت ۱۱ تا ۵۰ نفر karagroup.io

فرصت‌های شغلی ۲

استخدام متخصص هوش مصنوعی

دسته‌بندی شغلی

وب،‌ برنامه‌نویسی و نرم‌افزار
موقعیت مکانی

تهران ، تهران
نوع همکاری

تمام وقت
حداقل سابقه کار

سه تا شش سال
حقوق

توافقی

شرح موقعیت شغلی

Position: Distributed Systems Engineer

Requirements

Must-Have:
- Deep knowledge of LLM inference (transformers, forward passes, KV cache, prefill/decode phases)
- Proficiency in Python (and ideally Rust, GO or C++ )
- Experience with GPU programming (CUDA, vLLM, Hugging Face, or similar inference engines)
- Experience with distributed systems and high-performance networking
Strongly Preferred:
- Experience with decentralized systems, P2P networks, or blockchain-adjacent infrastructure
- Familiarity with model parallelism techniques (pipeline parallelism, tensor parallelism)
- Knowledge of compression algorithms for tensors/activations
- Experience with real-time routing, service mesh, or orchestration systems (Kubernetes, Ray, etc.)
- Strong systems thinking and performance engineering mindset

Key Responsibilities

Design & Implement the Core Architecture:
- Model partitioning into executable blocks/layers across distributed nodes
- Latency-aware dynamic routing using real-time telemetry (latency, queue, GPU load, trust scores, etc.)
- Adaptive layer-based replication with cost-benefit logic
- Observable metrics pipeline (p95 latency, bottlenecks, failure rates, audit overhead)
Build Production-Grade Features:
- Request gateway, route planner, aggregator
- Operator dashboards for visibility into routes, nodes, and blocks
- Benchmarking framework against naive pipelines
Technical Direction:
- Start with smaller open-source models and scale to large models
- Define MVP success metrics and iterate rapidly

ثبت آگهی استخدام در جابینجا

معرفی شرکت

شرکت توسعه راهکارهای توزیع شده کارا یک خانواده متشکل از چند تیم تخصصی در زمینه‌های فنی و برنامه‌نویسی، تحقیق آموزش و محتوا، مالی و دیگر بخش‌های مرتبط می‌باشد که در زمینه توسعه بلاکچین و هوش مصنوعی در سطح بین‌المللی در حال فعالیت است. در کارا میکوشیم تا ضمن ایجاد لحظاتی تاثیرگذار به رشد فردی و تیمی یکدیگر کمک کرده تا بتوانیم با انگیزه‌ بیشتر و اندیشه‌ای مثبت و سازنده به استقبال آینده‌ای روشن برویم.
اگر علاقه مند به کار در محیطی هستین که محصولاتی با بالاترین استانداردها دولوپ میکند و چالش هایش هم سطح چالش هایی در لبه ی تکنولوژی دنیاست به ما بپیوندید.