Cara AI Teammates Membangun Memori: Mengubah Pekerjaan Menjadi Pengetahuan yang Dapat Digunakan Kembali

Sebagian besar produk AI memperlakukan memori sebagai fitur personal — mengingat fakta tentang satu pengguna atau satu percakapan. Namun, AI yang berkolaborasi lintas tim membutuhkan jenis memori yang berbeda secara fundamental. Sistem AI menjadi lebih berguna ketika dapat membangun berdasarkan apa yang telah dipelajari sebelumnya. Namun, dalam perangkat lunak perusahaan, memori bukan hanya tentang menyimpan lebih banyak konteks. Masalah yang lebih sulit adalah membuat memori itu berguna di seluruh pekerjaan bersama sambil tetap memastikan memori tersebut dapat diperiksa, dapat diatur, dan mempertimbangkan izin.

Itulah tantangan yang kami upayakan untuk dipecahkan dengan AI Teammates.

AI Teammates beroperasi di lingkungan yang berbeda. Mereka berkolaborasi pada tugas, proyek, dan dokumen bersama. Mereka menerima umpan balik dari beberapa orang. Mereka bekerja di seluruh sistem. Dan mereka perlu menjadi lebih baik dari waktu ke waktu tanpa menjadi kotak hitam yang penuh dengan konteks tersembunyi yang tidak dapat diaudit oleh siapa pun.

Itu menciptakan masalah desain yang berbeda. AI Teammate memerlukan cara untuk belajar dari pelaksanaan, mengambil pengetahuan yang relevan nantinya, dan menjelaskan bagaimana pengetahuan tersebut memengaruhi tindakannya. Pada saat yang sama, ia tidak dapat memperlakukan semua informasi sebelumnya sebagai informasi yang dapat digunakan kembali secara global. Apa yang diingatnya dan apa yang dapat digunakannya harus mematuhi batasan yang sama yang mengatur pekerjaan yang mendasarinya.

Dalam praktiknya, itu berarti memori menjadi bagian dari arsitektur kolaborasi tingkat perusahaan kami. Ini menghubungkan pembelajaran, pengambilan, kontrol akses, dan transparansi ke dalam satu sistem.

Dari konteks satu kali ke pengetahuan yang dapat digunakan kembali

Versi paling sederhana dari asisten AI memulai dari awal setiap saat. Anda memberinya prompt, mungkin melampirkan beberapa file, dan asisten mencoba membantu dalam satu interaksi itu. Itu dapat berfungsi untuk permintaan yang terpisah, tetapi dengan cepat gagal dalam Alur Kerja tim yang berjalan lama.

Kolaborator manusia tidak hanya menanggapi pesan saat ini. Mereka mengingat proses yang disukai tim, contoh yang mendefinisikan output yang baik, dokumen yang penting, umpan balik yang mereka terima minggu lalu, dan konteks proyek yang menentukan cara pekerjaan harus dilakukan. Jika AI Teammates ingin terasa seperti kolaborator sungguhan, mereka membutuhkan cara untuk mengumpulkan jenis pengetahuan kerja yang sama.

Bagi kami, itu berarti membangun lapisan memori terpadu yang mencakup seluruh siklus pengetahuan:

• Cara memori dibuat

• Cara memulihkannya selama pelaksanaan mendatang

• Cara memautkannya ke Grafik Kerja - Model data terstruktur Asana yang menghubungkan tugas, proyek, orang, dan gol di seluruh organisasi

• Cara pengguna memeriksa dan mengatur hal yang telah dipelajari Rekan tim

Poin terakhir itu lebih penting daripada yang terlihat pada awalnya. Sistem memori yang kuat yang tidak dapat diperiksa atau diperbaiki oleh siapa pun tidak menciptakan kepercayaan. Ini menciptakan mode kegagalan baru.

Cara AI Teammates membuat memori

Salah satu pilihan desain pertama yang kami buat adalah mengidentifikasi momen yang tepat bagi rekan tim untuk menghasilkan memori.

Satu kelas memori disimpulkan selama atau setelah eksekusi. Saat Rekan tim mengerjakan suatu Tugas, ia menemukan instruksi, membaca sumber daya, mengambil tindakan, dan menerima umpan balik. Beberapa informasi tersebut bersifat sementara. Sebagian lainnya bertahan lama dan layak digunakan kembali, misalnya; pengguna mungkin memberikan umpan balik seperti “selalu salin peninjau model data pada tugas ini”. Sebagai contoh lain, ketika Rekan tim membaca proyek, ia dapat mempelajari hal-hal tentang tujuan proyek (misalnya, Proyek X berisi sumber daya tentang praktik terbaik kampanye pemasaran organisasi). Itu adalah kandidat yang kuat untuk memori tahan lama.

Kelas memori lainnya adalah eksplisit. Pengguna dapat memberikan panduan secara langsung alih-alih menunggu sistem menyimpulkannya. Hal ini sangat penting ketika golnya bukan untuk mengambil pelajaran dari pekerjaan sebelumnya, tetapi untuk mengajari Rekan tim cara bertindak dalam konteks kerja yang lebih luas atau cara menggunakan sumber daya tertentu.

Jalur eksplisit itu menjadi sangat bermanfaat untuk memori yang terkait dengan sumber daya. Pengguna mungkin memberikan akses ke dokumen kepada Rekan tim, lalu menjelaskan peran yang harus dimainkan sumber daya tersebut. Apakah ini dokumen proses yang menjelaskan cara tim berkomunikasi? Dokumen referensi yang berisi pengetahuan domain? Templat yang harus membentuk pekerjaan mendatang? Perbedaan ini penting karena materi sumber yang sama dapat digunakan dengan cara yang sangat berbeda tergantung pada maksud pengguna.

Setiap kali memori dibuat, kami membuat “Asosiasi Memori”, yang pada dasarnya adalah referensi ke objek Grafik Kerja yang menjadi pokok pembahasan memori atau relevan dengan memori tersebut. Misalnya, ini dapat berupa proyek yang dijelaskan oleh memori, atau sumber daya Google Doc yang diunggah pengguna. Seperti yang akan kami jelaskan lebih lanjut dalam artikel ini, asosiasi ini adalah kunci bagaimana kami mengambil memori dan memastikan kontrol akses yang tepat.

Cara AI Teammates mengambil memori

Bagus tidaknya suatu sistem memori bergantung pada model pengambilannya. Menyimpan pembelajaran yang berguna tidaklah cukup jika pengetahuan yang tepat tidak muncul pada waktu yang tepat.

Untuk AI Teammates, pengambilan berfungsi sebagai sistem dua jalur.

Jalur pertama adalah pengambilan awal eksekusi. Saat Rekan tim mulai mengerjakan tugas, ia menerima satu set memori yang relevan sebelum mulai mengambil keputusan. Ini mungkin termasuk instruksi yang disematkan yang harus selalu diterapkan, pembelajaran sebelumnya yang cocok dengan pekerjaan saat ini, atau pengetahuan tingkat yang lebih tinggi yang tampak relevan berdasarkan pencarian atau kesamaan semantik.

Jalur kedua adalah pengambilan kontekstual selama eksekusi. Ketika Rekan tim membaca tugas, proyek, atau objek lain tertentu, ia juga menerima memori yang terkait dengan objek tersebut. Ini penting karena sebagian pengetahuan umumnya tidak relevan secara abstrak. Pengetahuan itu menjadi relevan karena Rekan tim sekarang melihat bagian tertentu dari Grafik Kerja.

Kombinasi itu memberi sistem keseimbangan yang berguna. Rekan tim dapat memulai dengan kumpulan kerja yang luas yang berisi pengetahuan yang mungkin relevan, kemudian mengambil konteks yang lebih tepat saat membaca pekerjaan secara lebih mendalam.

Membuat memori operasional

Salah satu pilihan desain terpenting adalah merepresentasikan memori sebagai sesuatu yang operasional, bukan mistis. Dalam model data kami, memori adalah objek konkret dengan konten, metadata, dan asosiasi.

Asosiasi Memori menangkap Objek Grafik Kerja yang menjadi pokok pembahasan memori atau relevan dengan memori tersebut. Hal ini memungkinkan kami untuk secara eksplisit mengontekstualisasikan memori dalam Grafik Kerja yang lebih luas, alih-alih membuat memori tidak terikat dengan konteks yang ditangkap oleh memori tersebut. 

Kontrol akses membentuk keseluruhan desain

Sistem memori perusahaan menjadi jauh lebih sulit saat melibatkan banyak orang, proyek, dan izin.

AI asisten personal sering kali dapat memperlakukan memori sebagai perpanjangan sederhana dari riwayat satu pengguna. Namun, Rekan tim yang bekerja pada pekerjaan bersama, dan dapat dipicu oleh banyak orang, tidak dapat melakukannya dengan aman. Setiap memori yang dibuat sistem berasal dari pekerjaan dasar yang nyata: tugas, komentar, dokumen, proyek, dan eksekusi sebelumnya. Jika memori dibiarkan bebas dari sumber-sumber tersebut, memori dapat menjadi kanal untuk membocorkan informasi melintasi batas izin.

Itulah sebabnya memori di AI Teammates harus mewarisi logika kontrol akses yang sama dengan pekerjaan asalnya.

Setiap pengambilan memori dibatasi untuk siapa pun yang memicu eksekusi. Rekan tim hanya dapat mengakses memori jika orang tersebut memiliki visibilitas ke pekerjaan yang menghasilkan memori tersebut — tugas, komentar, dokumen, atau proyek yang terlibat. Aturan yang sama berlaku untuk asosiasi: jika memori merujuk ke objek Asana seperti tugas atau proyek, memori hanya akan muncul ketika pengguna yang memicu juga dapat melihat objek tersebut. Dengan kata lain, AI Teammate tidak pernah melihat apa pun yang tidak dapat dilihat oleh orang yang memulainya.

Transparansi menyelesaikan proses

Bagian terakhir adalah visibilitas. Jika Rekan tim menggunakan memori untuk memandu tindakan, pengguna memerlukan cara untuk memahami pengaruh tersebut.

Itu dimulai dengan memori yang dapat diperiksa itu sendiri. Pengguna harus dapat melihat memori yang dimiliki Rekan tim, dan menghapus memori yang mungkin tidak akurat atau sudah usang. Selain itu, ketika Rekan tim melakukan eksekusi, sistem dapat menunjukkan memori mana yang diteruskan ke konteks eksekusi dan mana yang dibuat selama eksekusi.

Alih-alih bertanya “mengapa AI melakukan itu?” secara abstrak, pengguna dapat melacak perilaku tersebut kembali ke instruksi tertentu yang dipelajari, memori sumber daya, atau objek konteks terkait. Perbaikan menjadi konkret: edit memori, hapus, refresh sumber, atau tambahkan panduan yang lebih baik.

Misalnya, jika Rekan tim memformat laporan dengan cara yang berbeda dari yang diharapkan, pengguna dapat memeriksa memorinya untuk melihat bahwa ia mempelajari preferensi pemformatan dari umpan balik anggota tim lain minggu lalu dan memperbarui atau menghapus memori tersebut untuk mengubah perilaku.

Inilah alasan memori dan transparansi perlu dirancang bersama. Rekan tim yang belajar seiring waktu lebih efektif. Rekan tim yang belajar secara tidak terlihat lebih sulit dipercaya.

Mengapa ini penting

Dalam postingan kami sebelumnya, kami mengeksplorasi cara AI Teammates beroperasi secara transparan di ruang tim bersama. Memori adalah lapisan yang membuat kolaborasi tersebut menjadi lebih baik: sistem belajar dari pekerjaan bersama, mengambil pengetahuan tersebut saat dibutuhkan, dan melakukannya dalam batas kepercayaan yang sama yang mengatur pekerjaan itu sendiri. 

Pelajaran yang lebih dalam adalah bahwa AI yang berfokus pada tim membutuhkan lebih dari sekadar jendela konteks yang lebih besar. AI ini membutuhkan model untuk mengubah kolaborasi menjadi pengetahuan yang tahan lama, dapat digunakan kembali, dan dapat dikendalikan.

Dalam postingan berikutnya, kami akan membahas cara kami mengevaluasi dan memilih model bahasa yang mendukung penalaran ini.

Artikel ini ditulis oleh Anant Tibrewal, seorang insinyur di tim AI Teammates, tempat ia berupaya membangun dan menskalakan produk AI agen kolaboratif Asana.