[JamesJoyce]

#it #programowanie #programista15k #sztucznainteligencja #chatgpt #ollama

Fajny artykuł wyjaśniający tool calling w Ollamie. Tool calling to mechanizm zwiększania funkcjonalność modeli AI, takich jak LLMy, poprzez umożliwienie im interakcji z zewnętrznymi narzędziami, interfejsami API lub systemami podczas rozmowy. Polecam do kawki.

https://medium.com/@danushidk507/ollama-tool-calling-8e399b2a17a8

[katopa]

@JamesJoyce:

[JamesJoyce]

@katopa: Tool calling is the process where an AI model:

Identifies a task it cannot perform on its own (e.g., fetching real-time weather, calculating complex data, or fetching information from an API).

Delegates the task to an external tool to get the required data or perform the action.

Uses the results from the tool to generate a response for the user.

[CzarnoksieznikJanusz]

@JamesJoyce: czyli podobna funkcjonalność do RAG, tyle że bardziej "dynamiczna", tutaj definiujesz sobie konkretne API czy funkcję która chcesz wołać? trochę mylące, bo tak naprawdę to praktycznie to samo ("douczanie" LLMa na bieżąco), tylko różni się implementacją.

[JamesJoyce]

@CzarnoksieznikJanusz: Tak. Moim zdaniem jest to znacznie szersze niż RAG, który skupia się najczęściej na dokumentach. Tutaj łączymy się np z api yfinance, czyli Yahoo Finance i np. pobieramy ceny jakiś akcji z zewnętrznego api.

prompt = 'What is the current stock price of Apple?'
print('Prompt:', prompt)