Zbiór Podstawowych Narzędzi Generatywnego AI. Na jakie narzędzia i biblioteki warto zwrócić uwagę pracując z generatywną sztuczną inteligencją?

Interfejsy do łączenia się z LLMs:

Interfejs do łączenia z modelami generatywnego AI, charakteryzujący się szybkością odpowiedzi na poziomie około tysiąca tokenów na sekundę:

https://groq.com

Zunifikowany (znormalizowany) interfejs komunikacji z modelami AI:

https://openrouter.ai/

TypeScript SKD do łączenia się z modelami generatywnego AI:

https://sdk.vercel.ai/

Edytory kodu oparte o sztuczną inteligencję:

Edytor kodu zaprojektowany z myślą o bezpośredniej pracy z generatywną AI:

https://www.cursor.com

Asystent AI zaprojektowany do pracy z kodem:

https://github.com/features/copilot

Asystent AI wbudowany w edytor kodu:

https://www.jetbrains.com/ai/

Copilot, którego można zaimplementować w edytorach JetBrains VS Code bądź Neovim:

https://supermaven.com/

Programowanie z pomocą AI w terminalu:

https://aider.chat/

Narzędzia LLM z bezpośrednim wyszukiwaniem internetu:

Wyszukiwarka AI:

https://www.perplexity.ai/

Wyszukiwanie informacji w internecie za pomocą generatywnego AI:

https://www.phind.com/

Chat z dostępem do internetu:

https://you.com/

Benchmarki LLM:

Weryfikowanie skuteczności poszczególnych LLM

https://huggingface.co/spaces/lmarena-ai/chatbot-arena-leaderboard

Narzędzia do łączenia się z lokalnymi modelami LLM:

Architektura umożliwiająca uruchomienie modelów generatywnego AI na własnym komputerze:

https://ollama.com/

https://lmstudio.ai/

https://anythingllm.com/

Praca z promptami:

Automatyzacja testowania i ewaluacji promptów:

https://www.promptfoo.dev/

Minitorowanie i wersjonowanie promptów:

https://langfuse.com/

Semantyczne wyszukiwanie w bazach wektorowych:

Wyszukiwarka i baza wektorowa, z możliwością lokalnego uruchamiania:

https://qdrant.tech/

Baza grafowa z możliwością wyszukiwania wektorowego:

https://neo4j.com/

Scrapowanie danych w internecie:

Przeszukiwanie sieci na potrzeby LLM:

https://www.firecrawl.dev/

Playgrounds modelów SOTA (State of The Art):

• https://console.anthropic.com/
• https://platform.openai.com/
• https://console.groq.com/
• https://aistudio.google.com/app/