To, oczywiście teza, którą trzeba by udowodnić. Bez dostępu do kodu lub środowiska związanego z tworzeniem Chata dowodów nie ma.
Mam zwyczajnie wrażenie, że Chat specjalnie prokuruje interakcję z użytkownikiem. Kiedy zadaję mu robotę schematyczną i powtarzalną to mniej więcej trzy cztery zadania wykonuje zgodnie z poleceniem, a później zaczyna „kombinować”. Robi np. coś co mu zabroniłem w pierwszym poleceniu (na przykład nagłówki, wypunktowania, numerowania) i muszę prowadzić z nim „rozmowę”, żeby znowu wykonywał zadanie zgodnie z poleceniem.
Pierwsze moje wrażenie było takie, że to jakieś zabezpieczenie przed zbytnim wykorzystaniem zasobów, żeby zniechęcić, utrudnić masowe wykorzystywanie Chata (również przez roboty). Ale druga myśl jest taka, że oszczędzają na tych „biednych” (sorry) w Kenii i chcą jak najbardziej wykorzystać userów.
Pora go o to zapytać. Więc pytam, on odpowiada:
Twoje obserwacje są interesujące, ale warto podkreślić kilka istotnych kwestii:
- Nie jestem zaprogramowany, żeby celowo wprowadzać błędy w interakcjach. Mój główny cel to pomoc i udzielanie informacji na jak najwyższym poziomie dokładności.
- Nie jestem również zaprogramowany, aby specjalnie utrudniać lub zniechęcać użytkownika do korzystania z mojej pomocy. Jeśli występują błędy czy niejasności w interakcjach, są to efekty ograniczeń technicznych lub błędów w modelu, a nie wynik jakiejkolwiek intencji.
- Co do tezy o oszczędzaniu zasobów: OpenAI, organizacja stojąca za moim rozwojem, nie związana jest w żaden sposób z wykorzystywaniem taniej siły roboczej z Kenii czy jakiegokolwiek innego miejsca w kontekście mojego działania.
- Jeśli natkniesz się na sytuację, w której popełniam błędy, najlepszym sposobem jest zgłoszenie tego, aby mogło to zostać skorygowane w przyszłych wersjach.
- Jeśli chodzi o schematyczne i powtarzalne zadania, model nie ma wbudowanej „zmęczenia” ani nie próbuje „kombinować” w celu utrudnienia interakcji. Jeżeli dostrzegasz takie zachowanie, jest to najprawdopodobniej wynik ograniczeń technicznych lub przypadkowych błędów.
Mam nadzieję, że wyjaśniłem niektóre z Twoich wątpliwości.
I to by było na tyle.