Po tym, jak w końcu połączyłem całą stronę i dokumentację w szczelny przepływ pracy tłumaczeniowej (używając po4a na bazie Hugo), który akurat wykorzystuje dokładnie ten sam zestaw narzędzi i logikę co aplikacja Ansel, wpadłem na pomysł automatyzacji pustych tłumaczeń, najpierw z plików tłumaczeń oprogramowania, a potem poprzez API ChatGPT, które całkiem nieźle radzi sobie z tłumaczeniem składni Markdown.
Pracując w pojedynkę, nie możesz liczyć na próżniactwo społeczne , więc musisz być sprytny. Możesz zobaczyć listę rzeczy, które już zautomatyzowałem w tle dla Ansela.
Napisawszy samodzielnie całą wyszukiwarkę AI, co oznacza głównie robota indeksującego (bo to była najbardziej żmudna część do napisania i debugowania), miałem okazję zobaczyć tę stronę oczami bota. Kawałek po kawałku modyfikowałem szablony HTML i metadane, aby ułatwić jej indeksowanie, katalogowanie i przeszukiwanie, najpierw dla wewnętrznej wyszukiwarki,1 a potem dla Chantal AI .
Nawet z Chantal wciąż dostaję zbyt wiele powtarzających się pytań dotyczących informacji, które są już gdzieś zapisane. Owszem, dokumentacja nieco pozostaje w tyle za kodem, ale wiadomości commitów , które piszę, mają być na tyle nietechniczne, aby zaawansowani użytkownicy mogli zrozumieć, co dzieje się obecnie w oprogramowaniu.
Rozumiem, że nie ma nic gorszego niż utknięcie w problemie bez szybkiej odpowiedzi, ale przecież nie mogę służyć jako dział pomocy dla każdego gościa w każdej strefie czasowej we wszystkim, co wymaga naprawy w tym głupim oprogramowaniu. Co oznacza, że wciąż jest luka do wypełnienia.
Główną wadą Chantal jest to, że model językowy jest dość ciężki do ponownego trenowania i nie mogę go tak po prostu zautomatyzować na jakimś serwerze. Poza tym stron nie da się indeksować zbyt szybko, żeby nie zostać zablokowanym przez serwery, więc nie wymaga to zbyt dużej mocy, ale wymaga podłączenia jakiegoś komputera na tydzień ze stabilnym połączeniem internetowym. Co oznacza, że aktualizuję model językowy i indeks sieciowy tylko 4 razy w roku. Na chwilę obecną indeks sieciowy zawiera 63.452 strony, model językowy zna 47.579 słów, a mnie w końcu udało się sprawić, żeby był całkiem zgodny z ograniczeniami wejścia/wyjścia pamięci hostingu współdzielonego.
Plan na teraz jest taki, aby zautomatyzować indeksowanie strony na jakimś serwerze, bo to nie jest zbyt ciężkie, a następnie ponownie trenować model przez noc na moim własnym komputerze (co zajmuje około 4 h obliczeń i niemal całe moje 32 GB RAM…).
Tak czy inaczej, podczas moich zabaw z API ChatGPT odkryłem, że możesz wytrenować swój własny, spersonalizowany GPT.2 Jest to tak proste, jak nakarmienie go treścią tekstową, której może użyć, a teraz ChatGPT potrafi także wczytywać strony internetowe, mapy witryn i może być skonfigurowany do wysyłania żądań do REST API. Tak więc bez zbędnych ceregieli poznaj Ansel GPT .
Ansel GPT jest skonfigurowany tak, aby raz w tygodniu buforować i aktualizować zgłoszenia z Githuba, commity, posty z forum społeczności oraz całą obecną stronę internetową. Potrafi udzielać złożonych (i całkiem trafnych) odpowiedzi dotyczących tego, jakiego modułu użyć, jak i kiedy, w Anselu, a także dotyczących koncepcji teorii koloru. Skonfigurowałem go również tak, aby korzystał z zaplecza Chantal AI, które jest (niemal) REST API, i GPT będzie podążał za linkami zindeksowanymi przez Chantal, aby ulepszyć swoje odpowiedzi.
Haczyk polega na tym, że korzystanie z Ansel GPT jest zarezerwowane dla subskrybentów ChatGPT Plus, więc mam wrażenie, że pracowałem 2 dni nad skonfigurowaniem wszystkiego, żeby OpenAI mogło zarobić na mojej pracy. Ale tak czy inaczej, jeśli w średnio-dłuższej perspektywie oznacza to przynajmniej mniej pracy dla mnie, nazwijmy to wygraną.
Translated from English by : Claude. In case of conflict, inconsistency or error, the English version shall prevail.