Jak AI Teammates budują pamięć: przekształcanie pracy w wiedzę wielokrotnego użytku
Większość produktów AI traktuje pamięć jako cechę osobistą — zapamiętuje fakty dotyczące jednego użytkownika lub jednej konwersacji. Ale AI, która współpracuje międzyzespołowo, potrzebuje zupełnie innego rodzaju pamięci. Systemy AI stają się bardziej przydatne, gdy mogą wykorzystywać to, czego nauczyły się wcześniej. Jednak w oprogramowaniu korporacyjnym pamięć to nie tylko przechowywanie większej ilości kontekstu. Trudniejszy problem polega na tym, aby ta pamięć była przydatna w ramach wspólnej pracy, a jednocześnie można było ją kontrolować, zarządzać nią i uwzględniać w niej uprawnienia.
To jest wyzwanie, które postanowiliśmy rozwiązać za pomocą AI Teammates.
AI Teammates działają w innym środowisku. Współpracują przy wspólnych zadaniach, projektach i dokumentach. Otrzymują informacje zwrotne od wielu osób. Pracują w różnych systemach. I muszą się doskonalić wraz z biegiem czasu, nie stając się czarną skrzynką pełną ukrytego kontekstu, której nikt nie może sprawdzić.
To stwarza inny problem projektowy. AI Teammate potrzebuje sposobu, aby uczyć się na podstawie wykonywanych zadań, później pobierać odpowiednią wiedzę i wyjaśniać, w jaki sposób ta wiedza wpłynęła na jego działania. Jednocześnie nie może traktować wszystkich wcześniejszych informacji jako globalnie nadających się do ponownego wykorzystania. To, co zapamiętuje i co może wykorzystać, musi mieścić się w tych samych granicach, które obowiązują w przypadku pracy, która przyczynia się do realizacji celów.
W praktyce oznacza to, że pamięć staje się częścią naszej architektury współpracy na poziomie korporacyjnym. Łączy ona uczenie się, wyszukiwanie, kontrolę dostępu i przejrzystość w jednym systemie.
Od jednorazowego kontekstu do wiedzy wielokrotnego użytku
Najprostsza wersja asystenta AI za każdym razem zaczyna od nowa. Przekazujesz mu polecenie, być może dołączasz kilka plików, a on próbuje pomóc w ramach tej jednej interakcji. Może to działać w przypadku pojedynczych zleceń, ale szybko zawodzi w długotrwałych przepływach pracy zespołu.
Ludzki współpracownik nie tylko odpowiada na bieżącą wiadomość. Pamięta preferowany przez zespół proces, przykłady, które definiują dobry wynik, ważne dokumenty, informacje zwrotne otrzymane w zeszłym tygodniu oraz kontekst projektu, który kształtuje sposób wykonywania pracy. Jeśli AI Teammates mają działać jak prawdziwi współpracownicy, potrzebują sposobu na gromadzenie tego samego rodzaju wiedzy związanej z pracą.
Dla nas oznaczało to zbudowanie ujednoliconej warstwy pamięci, która obejmuje pełny cykl życia wiedzy:
Jak powstaje pamięć
Jak są pobierane podczas przyszłych wykonań
Jak są powiązane z wykresem pracy – ustrukturyzowanym modelem danych Asany, który łączy zadania, projekty, osoby i cele w całej organizacji
Jak użytkownicy sprawdzają i zarządzają tym, czego nauczył się członek zespołu
Ten ostatni punkt jest ważniejszy, niż się wydaje na pierwszy rzut oka. Potężny system pamięci, którego nikt nie może sprawdzić ani poprawić, nie buduje zaufania. Tworzy nowy rodzaj awarii.
Jak AI Teammates tworzą pamięć
Jednym z pierwszych wyborów projektowych, jakich dokonaliśmy, było zidentyfikowanie odpowiednich momentów, w których członek zespołu ma generować pamięć.
Jedna klasa pamięci jest wnioskowana podczas wykonywania lub po jego zakończeniu. Gdy członek zespołu realizuje zadanie, napotyka instrukcje, czyta zasoby, podejmuje działania i otrzymuje informacje zwrotne. Część tych informacji jest przejściowa. Część z nich jest trwała i warto ją ponownie wykorzystać, na przykład użytkownik może przekazać informację zwrotną typu „zawsze dodawaj do kopii wiadomości w tych zadaniach osobę sprawdzającą model danych”. Inny przykład: kiedy członek zespołu przegląda projekt, może dowiedzieć się czegoś o jego celu (np. Projekt X zawiera zasoby dotyczące najlepszych praktyk w zakresie kampanii marketingowych organizacji). To są mocni kandydaci do pamięci trwałej.
Inną klasą pamięci jest pamięć jawna. Użytkownicy mogą bezpośrednio udzielać wskazówek, zamiast czekać, aż system je wywnioskuje. Jest to szczególnie ważne, gdy celem nie jest wyciągnięcie wniosków z wcześniejszej pracy, ale nauczenie członka zespołu, jak postępować w szerszym kontekście pracy lub jak korzystać z określonego zasobu.
Ta ścieżka jawny staje się szczególnie potężna w przypadku pamięci powiązanej z zasobami. Użytkownik może przyznać członkowi zespołu dostęp do dokumentu, a następnie wyjaśnić, jaką rolę powinien pełnić ten zasób. Czy jest to dokumentacja procesu, która wyjaśnia, w jaki sposób zespół się komunikuje? Dokument referencyjny zawierający wiedzę z danej dziedziny? Szablon, który powinien kształtować przyszłą pracę? To rozróżnienie ma znaczenie, ponieważ ten sam materiał źródłowy może być wykorzystywany w bardzo różny sposób w zależności od intencji użytkownika.
Za każdym razem, gdy tworzy się pamięć, tworzymy „powiązania pamięci”, czyli zasadniczo odniesienia do obiektów wykresu pracy, których dotyczy pamięć lub z którymi jest ona związana. Może to być na przykład projekt, który opisuje pamięć, lub zasób w Dokumentach Google, który przesłał użytkownik. Jak opisujemy dalej w tym artykule, te skojarzenia są kluczowe dla sposobu, w jaki pobieramy pamięci i zapewniamy odpowiednią kontrolę dostępu.
Jak AI Teammates pobierają pamięć
System pamięci jest tak dobry, jak jego model odzyskiwania. Przechowywanie przydatnych informacji nie wystarczy, jeśli właściwa wiedza nie pojawi się we właściwym czasie.
W przypadku AI Teammates pobieranie działa jako system dwutorowy.
Pierwszy tor to pobieranie na początku wykonywania zadania. Kiedy członek zespołu rozpoczyna pracę nad zadaniem, otrzymuje zestaw odpowiednich wspomnień, zanim zacznie podejmować decyzje. Mogą to być przypięte instrukcje, które powinny zawsze obowiązywać, wcześniejsza wiedza pasująca do bieżącej pracy lub wiedza wyższego poziomu, która wydaje się istotna na podstawie wyszukiwania lub podobieństwa semantycznego.
Drugi tor to pobieranie kontekstowe podczas realizacji. Gdy członek zespołu odczytuje konkretne zadanie, projekt lub inny obiekt, otrzymuje również pamięć powiązaną z tym obiektem. Ma to znaczenie, ponieważ niektóre informacje nie są na ogół istotne w ujęciu abstrakcyjnym. Staje się ona istotna, ponieważ członek zespołu przegląda teraz konkretną część wykresu pracy.
To połączenie zapewnia systemowi przydatną równowagę. Członek zespołu może zacząć od szerokiego zestawu roboczego prawdopodobnie istotnej wiedzy, a następnie poznać bardziej precyzyjny kontekst, zagłębiając się w pracę.
Uczynienie pamięci operacyjną
Jednym z najważniejszych wyborów projektowych było przedstawienie pamięci jako czegoś operacyjnego, a nie mistycznego. W naszym modelu danych pamięć jest konkretnym obiektem z treścią, metadanymi i powiązaniami.
Powiązanie pamięci rejestruje obiekt wykresu pracy, którego dotyczy pamięć lub z którym jest ona związana. Pozwala nam to wyraźnie umieścić pamięć w szerszym kontekście wykresu pracy, zamiast pozostawiać wspomnienia oderwane od kontekstu, który pamięć rejestruje.
Kontrola dostępu kształtuje cały projekt
Systemy pamięci dla przedsiębiorstw stają się znacznie trudniejsze, gdy w grę wchodzi wiele osób, projektów i uprawnień.
Sztuczna inteligencja pełniąca rolę osobistego asystenta może często traktować pamięć jako proste rozszerzenie historii jednego użytkownika. Jednak członek zespołu, który pracuje nad wspólnymi zadaniami i może być uruchamiany przez wiele osób, nie może tego robić w bezpieczny sposób. Każda pamięć, którą tworzy system, pochodzi z rzeczywistej pracy leżącej u jej podstaw: zadań, komentarzy, dokumentów, projektów i wcześniejszych realizacji. Gdyby pamięć mogła unosić się swobodnie poza tymi źródłami, mogłaby stać się kanałem wycieku informacji poza granice uprawnień.
Dlatego pamięć w AI Teammates musi dziedziczyć tę samą logikę kontroli dostępu, co praca, z której pochodzi.
Każde pobranie pamięci jest ograniczone do osoby, która uruchomiła wykonanie. Członek zespołu może uzyskać dostęp do pamięci tylko wtedy, gdy ma wgląd w pracę, która ją wygenerowała – w zadania, komentarze, dokumenty lub projekty. Ta sama zasada dotyczy powiązań: jeśli pamięć odwołuje się do obiektu w Asanie, takiego jak zadanie lub projekt, pojawia się tylko wtedy, gdy użytkownik, który uruchomił operację, również może zobaczyć ten obiekt. Innymi słowy, AI Teammate nigdy nie widzi niczego, czego osoba, która go uruchomiła, nie mogłaby już zobaczyć.
Przejrzystość zamyka pętlę
Ostatnim elementem jest widoczność. Jeśli członek zespołu korzysta z pamięci, aby ukierunkować działanie, użytkownicy potrzebują sposobu na zrozumienie tego wpływu.
Zaczyna się to od samej pamięci, którą można sprawdzić. Użytkownicy powinni mieć możliwość wyświetlania pamięci posiadanej przez członka zespołu i usuwania pamięci, która może być niedokładna lub nieaktualna. Ponadto, gdy członek zespołu wykonuje polecenie, system może pokazać, które pamięci zostały przekazane do kontekstu wykonania, a które zostały utworzone w trakcie jego wykonywania.
Zamiast pytać „dlaczego sztuczna inteligencja to zrobiła?” w sposób abstrakcyjny, użytkownik może prześledzić zachowanie wstecz do konkretnej wyuczonej instrukcji, pamięci zasobów lub powiązanego obiektu kontekstowego. Poprawka staje się konkretna: edytuj pamięć, usuń ją, odśwież źródło lub dodaj lepsze wskazówki.
Na przykład, jeśli członek zespołu sformatuje raport inaczej niż oczekiwano, użytkownik może sprawdzić jego pamięć, aby zobaczyć, że w zeszłym tygodniu nauczył się preferencji formatowania na podstawie informacji zwrotnej od innego członka zespołu, i zaktualizować lub usunąć tę pamięć, aby zmienić zachowanie.
Dlatego właśnie pamięć i przejrzystość należy projektować razem. Członek zespołu, który uczy się na przestrzeni czasu, jest potężniejszy. Trudniej jest zaufać członkowi zespołu, który uczy się w sposób niewidoczny.
Dlaczego to ma znaczenie
W naszym poprzednim poście omówiliśmy, w jaki sposób AI Teammates działają w sposób przejrzysty we współdzielonych przestrzeniach zespołu. Pamięć jest warstwą, która sprawia, że ta współpraca jest złożona: system uczy się na podstawie wspólnej pracy, pobiera tę wiedzę, gdy jest to istotne, i robi to w ramach tych samych granic zaufania, które regulują samą pracę.
Głębszy wniosek jest taki, że sztuczna inteligencja na poziomie zespołu potrzebuje czegoś więcej niż tylko większego okna kontekstowego. Potrzebuje modelu, który przekształci współpracę w trwałą, nadającą się do wielokrotnego wykorzystania i zarządzalną wiedzę.
W następnym poście przyjrzymy się, w jaki sposób oceniamy i wybieramy modele językowe, które napędzają to rozumowanie.
Ten artykuł został napisany przez Ananta Tibrewala, inżyniera w zespole AI Teammates, gdzie pracuje nad budową i skalowaniem opartego na współpracy, agentowego produktu AI Asany.
