Optimalizácia promptov pre AI

Čo je to inžinier promptov? Som inžinier promptov Michael Taylor a dnes vám predstavím svet inžinierstva promptov. Ako inžinier promptov pracujem denne na optimalizácii rôznych verzií promptov. Testujem rôzne spôsoby kladenia otázok umelej inteligencie (AI) a porovnávam, ktorý spôsob prináša najlepšie výsledky. Inžinier promptov môže pracovať pre spoločnosť s cieľom zlepšiť prompty, ktoré sa používajú v ich AI aplikáciách.

Používanie zdvorilostných fráz s AI

Spoločnosť Adam Jones Inc. sa pýta, či niekto iný používa slová ako „prosím“ a „ďakujem“ pri komunikácii s ChatGPT a Perplexity AI. Osobne dúfam, že tieto slová prinesú lepšie odpovede alebo lepšie zaobchádzanie. Používanie takýchto zdvorilostných fráz však nemá žiaden dôkaz o zlepšení výsledkov. Na druhej strane, emócie v promptoch, ako napríklad použitie veľkých písmen, môžu skutočne zlepšiť výkon AI. Ak napríklad pridáte do promptu, že je to „veľmi dôležité pre moju kariéru“, AI bude pracovať dôkladnejšie, pretože sa to naučila z čítania príspevkov na Reddite a sociálnych médiách.

Sezónne zmeny v správaní AI

Minulú zimu sme zaznamenali, že ChatGPT sa začala správať o niečo lenivejšie. Zistilo sa, že keď vie, že je december, môže pracovať menej, pretože sa naučila, že počas sviatkov by sme mali pracovať menej.

Ako rôzne role ovplyvňujú odpovede AI
Spoločnosť Shuffle Upus sa pýta, či dostanete lepšie výsledky, keď AI vyzývate, aby si predstavila, že je skúsený astrofyzik. Urobme experiment: napíšeme prompt ako astrofyzik a následne ako 5-ročné dieťa. Keď som požiadal AI, aby mi vysvetlila kvantovú mechaniku v dvoch riadkoch ako astrofyzik, použila veľa odborných termínov. Keď som to isté požiadal ako 5-ročné dieťa, AI to vysvetlila ako magický svet, kde malé veci ako atómy môžu byť na dvoch miestach naraz. Hlavné pravidlo je byť priamy a stručný, či už ako astrofyzik, alebo ako 5-ročné dieťa.

Tipy na vylepšenie promptov

Spoločnosť VBR hľadá tipy na zlepšenie promptov. Existujú tisíce techník inžinierstva promptov, ale dve z nich prinášajú najväčšie výsledky s minimálnym úsilím: poskytovanie smerovania a príkladov. Ak máte prompt, napríklad o vynájdení topánok, ktoré sa prispôsobia akejkoľvek veľkosti nohy, môžete to vylepšiť tým, že do promptu pridáte smerovanie, napríklad spomenutie Steva Jobsa, ktorý bol známy svojou schopnosťou pomenovania produktov, alebo príklady názvov spoločností v štýle Elona Muska.

Výzvy pri generovaní obrázkov AI

Pete Mandic sa pýta, prečo AI umelci majú problémy s vykresľovaním správneho počtu prstov na ľudskej ruke. Problém je v zložitosti a fyzike prstov, ktoré sú ťažké pochopiť pre malé modely s obmedzeným počtom parametrov. Ľudia sú veľmi citliví na chyby v zobrazovaní prstov alebo očí. Pri písaní promptu môžete požiadať o „dobré prsty“, ale to nemusí fungovať, pretože všetko v promptoch je pozitívne vážené. Na odstránenie nežiaducich prvkov, ako sú rámčeky na obrazoch, môžete použiť negatívne prompty, ktoré sú dostupné v niektorých systémoch, ako napríklad Stable Diffusion.

Najzvláštnejšie odpovede AI

Roberto Digital sa pýta, aká je najzvláštnejšia odpoveď, ktorú dostal od Chat GPT. Jeho obľúbená je, keď sa opýta, kto je matka Toma Cruisa – AI vie, že je to Mary Lee Pfeiffer. Ak sa však opýta, kto je slávny syn Mary Lee Pfeiffer, AI to nevie a vymyslí niečo, napríklad Johna Travoltu. Dôvodom je nedostatok informácií na internete o Mary Lee Pfeiffer a jej synovi. Halucinácia je, keď AI vymyslí niečo nesprávne, a je ťažké sa jej vyhnúť, pretože je to súčasť fungovania týchto modelov. Kreativita je vlastne halucinácia niečoho, čo ešte neexistuje, a práve to chceme pri tvorivých úlohách.

Zaujatosť v dátach a jej vplyv na AI

Schwarzschild sa pýta, či sa zaujatosť v dátovom tréningu nepremietne do odpovedí AI. Áno, AI sa trénuje na dátach z internetu, ktorý je plný zaujatosti, pretože pochádza od nás, a my tiež nie sme bez zaujatosti. Pokusy o nápravu zaujatosti môžu viesť k zaujatosti v inej oblasti. Príkladom je, keď Google pridal do svojich promptov pre generovanie obrázkov inštrukciu, aby vždy zobrazovali rôznorodých ľudí v určitých pracovných rolách, čo viedlo k tomu, že AI nikdy nevygenerovala bieleho Georga Washingtona.

Pamäť a kontext v AI konverzáciách

Cara John sa pýta, koľko kontextu rozhovoru si Chat GPT pamätá. Pri novom chatovom stretnutí AI nič o vás nevie, pokiaľ ste nepridali niečo do svojich nastavení. Existuje experimentálna funkcia pamäti, ktorá nie je predvolene zapnutá. Autor trvá na tom, aby udržal všetok kontext pre úlohu v jednom vlákne, požiada o zhrnutie a potom začne nové vlákno s týmto zhrnutím, aby sa AI nezmýlila predchádzajúcou históriou.

Prispôsobenie nastavení pre lepšie výsledky

Brandon White sa pýta, či prispôsobenie nastavení v Chat GPT a poskytnutie osobných informácií pomáha zlepšiť výsledky. Áno, nastavenia môžu poskytnúť veľmi odlišné výsledky. V prispôsobených inštrukciách máte dve polia: čo by malo Chat GPT o vás vedieť pre lepšie odpovede a ako by malo Chat GPT odpovedať. Autor používa Chat GPT na programovanie, takže mu povie, aké jazyky a frameworky používa a ako by mal byť jeho kód napísaný. Druhé pole môže obsahovať čokoľvek, čo používateľa pri používaní Chat GPT obťažuje, napríklad požiadavku na stručnejšie odpovede.

Inžinier promptov ako Travis Media sa pýta, čo robí inžiniera promptov špecifickým. Inžinier promptov navrhuje systém promptov pre aplikácie a zabezpečuje, že sú bezpečné na nasadenie a že opakovane a spoľahlivo fungujú, podobne ako civilný inžinier navrhuje most a zabezpečuje, že pri prechode cez neho ľudia nespadnú do rieky.

Paralely medzi veľkými jazykovými modelmi a ľudskými mozgami: Ivan Blade sa pýta, či môžeme hľadať paralely medzi veľkými jazykovými modelmi a ľudskými mozgami. Veľké jazykové modely sú založené na ľudskej biológii a simulujú naše biologické neurónové siete. Mnohé mechanizmy, ktoré fungujú pri riadení ľudí, fungujú aj pri riadení umelej inteligencie. Transformačné modely, na ktorých sú postavené veľké jazykové modely, predstavujú prelomové objavy v tom, ako AI venuje pozornosť správnym slovám vo vetách na predpovedanie ďalšieho slova.

Čo sú tokeny? This One Optimistic sa pýta, čo sú tokeny. Ak začnem písať vetu „LeBron James šiel do…“, aké slovo by mohlo nasledovať? Veľký jazykový model skúma všetky slová na internete a vypočíta pravdepodobnosť nasledujúceho slova. Token „Miami“ má 14% šancu, „Lakers“ má 13,3% šancu a „Cleveland“ má iba 4% šancu. AI občas vyberie slovo s nižšou pravdepodobnosťou, čo jej dodáva kreativitu.

Najlepší veľký jazykový model: Edam Test Mo sa pýta, ktorý veľký jazykový model považuje za najlepší. Pre neho je to Claude 3 Opus. Spoločnosť Anthropic robí skvelú prácu. Otestuje to oproti Chat GPT a Meta Llama, ktorý je open-source model, a ukáže rozdiely vo výsledkoch. Prompt, ktorý používajú, znie: „Dajte mi zoznam piatich názvov produktov pre topánku, ktorá sa prispôsobí akejkoľvek veľkosti nohy.“ Testujú kreativitu modelu. Výsledky sú rôzne, ale najviac sa mu páči odpoveď od Claude.

Jednoduché úlohy, ktoré zmenili život: G Monster 7000 sa pýta, aká jednoduchá úloha veľkého jazykového modelu zmenila jeho život. Pre neho je to schopnosť programovania, ktorú poskytujú Chat GPT a Anthropic Claude. Tieto modely sú skvelé pri písaní kódu a vysvetľovaní jeho funkcie. Vytvoril fiktívny produkt, ktorý upozorňuje, ak dieťa dusí, a Claude mu napísal kód na landing page, keď boli vývojári zaneprázdnení. Okrem toho nastavil e-mailovú adresu, ktorá posiela zaujímavé odkazy na AI, tie ich zhrnú a uložia do tabuľky na neskoršie prečítanie.

Čo je to reťazenie promptov? Can Of Goldson sa pýta, čo je to reťazenie promptov. Ak chcete napísať blogový príspevok, nedostanete dobré výsledky tým, že požiadate o jeho vytvorenie v jednom kroku. Najlepšie je najskôr požiadať o osnovu, urobiť výskum a potom, keď ste spokojní s osnovou, požiadať o doplnenie zvyšku článku. Tento prístup prináša lepšie a komplexnejšie výsledky.

Ako automatizovať AI: Automation Ace sa pýta, ako možno automatizovať AI. To sa nazýva autonómny agent, ktorý beží v slučke a nepretržite sa sám upravuje, kým nedosiahne cieľ. Microsoft Autogen je open-source framework pre autonómnych agentov, ktorý môže vyskúšať každý, kto vie programovať. Toto je podstatný rozdiel medzi ChatGPT ako pomocným asistentom na každodenné použitie a AI zamestnancom v Slacku, ktorý môže pracovať na dosiahnutí finančných cieľov spoločnosti.

Ako vylepšiť výzvy pomocou AI: Mr. Drovo sa pýta, ako by bolo možné požiadať veľký jazykový model o vylepšenie výzvy. Existujú techniky, ako napríklad automatický inžinier výziev, kde AI píše výzvy pre iné AI a funguje to veľmi dobre. Toto neustále používam na optimalizáciu vlastných výziev.

Budúcnosť inžinierstva výziev: Bahoo Prompts sa pýta, ako dlho potrvá, kým sa inžinierstvo výziev alebo súvisiace pole stane vysokoškolským stupňom. Niektorí ľudia tvrdia, že inžinierstvo výziev nebude povolaním o päť rokov, pretože modely budú také dobré, že nebudeme potrebovať výzvy. S tým nesúhlasím, pretože aj keď sú ľudia inteligentní, potrebujú výzvy a podporu. Myslím si, že inžinierstvo výziev bude vždy potrebnou zručnosťou, ale nemyslím si, že sa o päť rokov budeme nazývať inžiniermi výziev.