PayPal Perluas Platform MLOps Cosmos.AI dengan Dukungan AI Generatif

pibitek.biz -PayPal telah memperluas platform MLOps, Cosmos.AI, untuk mendukung pengembangan aplikasi AI generatif (AI Generatif) dengan memanfaatkan LLM. Perusahaan ini telah mengintegrasikan dukungan untuk LLM dari berbagai vendor, sumber terbuka, dan yang telah disetel sendiri, serta memberikan kemampuan terkait dengan pembangkitan yang diperkaya pencarian (RAG), penempatan semantik, pengelolaan permintaan, orkestrasi, dan hosting aplikasi AI. PayPal telah mengembangkan platform Cosmos.AI sejak sekitar tahun 2020 dan secara umum telah tersedia sejak pertengahan tahun 2022.

Perusahaan ini memutuskan untuk menggabungkan berbagai solusi khusus dan terfragmentasi yang sebelumnya dibangun secara independen oleh tim-timnya ke dalam satu platform perusahaan yang mendukung siklus hidup pengembangan machine learning (MLDCL) secara menyeluruh. Sejak dirilis, Cosmos.AI telah menjadi platform AI/ML de facto bagi perusahaan ini dan telah digunakan oleh ribuan ilmuwan data, analis, dan pengembang. Platform terpadu ini menggabungkan kemampuan yang mirip dengan yang ditawarkan oleh penyedia layanan awan, seperti Amazon SageMaker, Azure Machine Learning, dan GCP Vertex AI.

Selain itu, Cosmos.AI memisahkan kemampuan platform dari implementasinya, yang memungkinkan pengguna untuk memilih antara implementasi khusus yang dibuat sendiri, implementasi yang ditawarkan oleh solusi sumber terbuka, atau vendor pihak ketiga yang diintegrasikan oleh platform ini. Lebih lanjut, platform ini mendukung multi-tenant dan layanan mandiri serta dapat beroperasi di lingkungan multi-awan dan hibrida. PayPal menyadari pentingnya AI Generatif dan menyambutnya sejak awal. Dengan membangun arsitektur Cosmos.AI yang fleksibel dan dapat diperluas, perusahaan ini berinvestasi dalam mengembangkan kemampuan AI Generatif yang memanfaatkan LLM untuk mendorong inovasi produk. Jun Yang, direktur teknik di PayPal, memberikan gambaran umum tentang upaya perusahaan ini untuk memberikan dukungan terpusat untuk AI Generatif: PayPal telah memperluas kemampuan pelatihan Cosmos.AI untuk memungkinkan penyetelan halus LLM sumber terbuka dan yang dihosting oleh vendor. Repositori model juga telah diperluas untuk memungkinkan onboarding LLM dengan mudah dari taman model publik seperti Hugging Face sambil mendukung pengecekan hukum dan lisensi.

Cosmos.AI kini juga menyediakan kemampuan LLMOps, termasuk penerapan multi-GPU, optimisasi LLM, antarmuka streaming, dan peningkatan pencatatan/pemantauan. Untuk mendukung aplikasi AI Generatif, PayPal telah mengembangkan berbagai kemampuan baru, termasuk kerangka kerja RAG yang memanfaatkan Vector DB dan pipeline Cosmos.AI, penempatan semantik untuk inferensi LLM, kerangka kerja pengelolaan permintaan, kerangka kerja orkestrasi platform, alat evaluasi LLM, dan hosting aplikasi. Di masa depan, tim ini berencana untuk mengembangkan platform AI/ML lebih lanjut dan mengubah proses manual/layanan mandiri menjadi alur kerja otonom.

Kemampuan AI Generatif dalam Cosmos.AI memungkinkan pengembang di PayPal untuk membangun dan menerapkan aplikasi AI Generatif dengan cepat dan efisien. Platform ini menawarkan beragam alat dan layanan yang diperlukan untuk seluruh siklus hidup AI Generatif, mulai dari pelatihan dan penyetelan halus LLM hingga penerapan dan pemantauan aplikasi. RAG, singkatan dari Retrieval-Augmented Generation, adalah teknik yang menggabungkan informasi dari basis data atau sumber data lainnya dengan kemampuan pembangkitan bahasa dari LLM.

Teknik ini memungkinkan model untuk mengakses dan menggunakan informasi yang relevan dari sumber data eksternal, yang pada akhirnya menghasilkan respon yang lebih informatif dan akurat. Penempatan semantik, dalam konteks AI Generatif, mengacu pada penyimpanan dan pencarian informasi berdasarkan artinya. Ini berbeda dengan penempatan tradisional yang hanya didasarkan pada kata-kata atau frasa. Dengan menggunakan penempatan semantik, LLM dapat memahami hubungan dan makna antara konsep yang berbeda, sehingga dapat menghasilkan respons yang lebih tepat dan relevan dalam berbagai skenario.

Pengembangan kemampuan AI Generatif dalam Cosmos.AI merupakan langkah penting bagi PayPal dalam memaksimalkan kekuatan AI untuk meningkatkan pengalaman pengguna. Platform ini akan memungkinkan perusahaan ini untuk menghadirkan solusi AI Generatif yang inovatif dan membantu meningkatkan kemampuan yang ditawarkan oleh produk dan layanan mereka. Namun, perlu dicatat bahwa meskipun AI Generatif menawarkan potensi yang luar biasa, ada juga tantangan yang perlu ditangani. Kekhawatiran tentang privasi data dan bias algoritma menjadi semakin penting, dan perusahaan perlu memastikan bahwa aplikasi AI Generatif mereka dikembangkan dan diterapkan secara bertanggung jawab.

Dalam konteks pengembangan model bahasa, bias dapat terjadi ketika model belajar dari data yang bias, yang mengarah pada keluaran yang mencerminkan bias tersebut. Misalnya, jika model dilatih pada dataset teks yang didominasi oleh penulis pria, model tersebut mungkin cenderung menghasilkan keluaran yang mencerminkan perspektif laki-laki. Penting untuk diingat bahwa AI Generatif hanya alat, dan penggunaannya harus didasarkan pada prinsip-prinsip etika yang kuat. Perusahaan perlu memastikan bahwa aplikasi AI Generatif mereka transparan, dapat dipertanggungjawabkan, dan tidak diskriminatif.

Selain itu, penting untuk membahas aspek legal dari AI Generatif. Penggunaan data yang dilindungi hak cipta dan masalah tanggung jawab hukum terkait dengan keluaran AI Generatif adalah masalah yang perlu ditangani. Perusahaan harus bekerja sama dengan para ahli hukum untuk memastikan bahwa penggunaan AI Generatif mereka sesuai dengan peraturan yang berlaku. Meskipun ada tantangan ini, AI Generatif memiliki potensi besar untuk mengubah berbagai industri, termasuk layanan keuangan. PayPal, dengan platform Cosmos.AI-nya, berada di garis depan dalam mengadopsi dan memanfaatkan kekuatan AI Generatif.

Perusahaan ini akan terus mengembangkan platformnya untuk menawarkan kemampuan AI Generatif yang canggih, dan melalui upaya ini, PayPal dapat membantu membentuk masa depan AI Generatif dalam layanan keuangan. PayPal terus berinvestasi dalam pengembangan Cosmos.AI, dan perusahaan ini berencana untuk merilis kemampuan AI Generatif baru di masa depan. Platform ini akan terus berkembang untuk mendukung berbagai aplikasi AI Generatif, dan akan memberikan alat yang diperlukan bagi pengembang untuk menciptakan solusi inovatif yang mengubah industri layanan keuangan.

Di masa depan, PayPal bermaksud untuk menciptakan alur kerja otonom untuk mengotomatiskan proses manual dan layanan mandiri. Alur kerja otonom ini akan menggunakan AI untuk melakukan tugas-tugas tertentu secara otomatis, yang pada akhirnya akan mengoptimalkan efisiensi dan meningkatkan skala kemampuan AI Generatif dalam Cosmos.AI. Melalui pengembangan Cosmos.AI, PayPal bertujuan untuk menjadi pemimpin dalam adopsi dan pengembangan AI Generatif di industri layanan keuangan. Platform ini akan membantu perusahaan ini untuk menghadirkan solusi inovatif yang dapat meningkatkan pengalaman pelanggan dan mengoptimalkan operasi bisnis. Dengan terus berinvestasi dalam teknologi AI, PayPal akan mampu membentuk masa depan AI Generatif dan membuka kemungkinan baru untuk pertumbuhan dan inovasi.