Teknologi

Runtime Microservices DAPR sekarang mendukung agen AI

Kembali pada tahun 2019, Microsoft DAPR Sumber Terbukaruntime baru untuk membuat gedung aplikasi berbasis microservice yang didistribusikan lebih mudah. Pada saat itu, belum ada yang berbicara tentang agen AI, tetapi ternyata, DAPR memiliki beberapa blok bangunan mendasar untuk mendukung agen AI yang bawaan sejak awal. Itu karena salah satu fitur inti DAPR adalah konsep virtual aktoryang dapat menerima dan memproses pesan, secara independen dari semua aktor lain dalam sistem.

Hari ini, tim DAPR meluncurkan agen DAPR, yang membantu pengembang membangun agen AI dengan memberi mereka banyak blok bangunan untuk melakukannya.

“Agen adalah kasus penggunaan yang sangat baik untuk DAPR,” co-pencipta DAPR dan pemeliharaan Yaron Schneider menjelaskan. “Dari perspektif teknis, Anda dapat menggunakan aktor sebagai cara yang sangat ringan untuk menjalankan agen-agen ini dan benar-benar dapat menjalankannya dalam skala dengan keadaan-dan menjadi hemat sumber daya. Ini semua hebat, tapi kemudian, masih ada banyak logika bisnis yang perlu Anda tulis. Konsep dan orkestrasi hanyalah satu bagian. Dan banyak orang, mereka mungkin memilih mesin alur kerja atau kerangka kerja aktor, tetapi masih ada banyak pekerjaan yang perlu mereka lakukan untuk benar -benar menulis logika agen di sisi lain. Ada banyak kerangka kerja agen di luar sana, tetapi mereka tidak memiliki tingkat orkestrasi dan kewarganegaraan yang sama dengan yang dimiliki DAPR. ”

Kredit gambar:Proyek DAPR

Agen DAPR berasal dari KawananProyek sumber terbuka populer yang memperluas DAPR untuk kasus penggunaan agen AI ini. Berbicara dengan pengelola proyek, termasuk peneliti Microsoft AI Roberto Rodriguez, kedua tim memutuskan untuk membawa proyek di bawah payung DAPR untuk memastikan kesinambungan kerangka kerja agen baru.

“Dalam banyak hal kita melihat sistem agen dan seluruh terminologi di sekitar itu sebagai istilah lain untuk 'sistem terdistribusi,' kata co-pencipta DAPR dan pemeliharaan Mark Fussell. “[…] Daripada menyebutnya layanan mikro, Anda dapat menyebutnya agen sekarang, terutama karena Anda dapat menempatkan model bahasa besar di antara mereka semua. ”

Untuk secara efisien mengoordinasikan agen -agen itu, Anda memang membutuhkan mesin orkestrasi dan keutamaan, tim berpendapat – yang persis seperti yang diberikan DAPR. Itu sebagian karena aktor DAPR dimaksudkan untuk menjadi sangat efisien dan mampu berputar dalam milidetik ketika sebuah pesan masuk (dan ditutup, dengan negara mereka dilestarikan, ketika pekerjaan mereka selesai).

Saat ini, agen DAPR dapat berbicara dengan sebagian besar penyedia model populer di luar kotak. Ini termasuk AWS Bedrock, Openai, Anthropic, Mistral, dan Hugging Face. Dukungan untuk LLM lokal akan segera tiba.

Selain berinteraksi dengan model -model ini, karena agen DAPR memperluas kerangka DAPR yang ada, pengembang juga mendapatkan kemampuan untuk menentukan daftar alat yang kemudian dapat digunakan agen untuk memenuhi tugas yang diberikan.

Saat ini, agen DAPR mendukung Python, dengan .NET Support Segera diluncurkan. Java, Javascript dan Go akan segera menyusul.

Source

Related Articles

Leave a Reply

Your email address will not be published. Required fields are marked *

Back to top button