LM Studio

LM Studio உள்ளூரில் LLM-களை இயக்குவதற்கான வரைகலை இடைமுகங்களின் தங்க தரநிலையாக தன்னை நிலைநிறுத்தியுள்ளது. macOS, Windows மற்றும் Linux-ல் கிடைக்கும் இந்த desktop பயன்பாடு, சிறந்த cloud chatbot-களுக்கு இணையான அனுபவத்தை வழங்குகிறது — ஆனால் முற்றிலும் உங்கள் கணினியில்.

இடைமுகம் அதன் வலிமையான சொத்தாகும்: உள்ளமைந்த model hub சில கிளிக்குகளில் Hugging Face-லிருந்து ஆயிரக்கணக்கான மாடல்களை உலாவி பதிவிறக்க அனுமதிக்கிறது. அரட்டை markdown preview, உரையாடல் வரலாறு மற்றும் மாடல்களுக்கு இடையே உடனடியாக மாறும் திறனுடன் மென்மையாக இயங்குகிறது.

LM Studio தானாகவே quantization மற்றும் நினைவக மேம்படுத்தலை கையாள்கிறது, உங்கள் hardware-ஐ பொறுத்து 7B முதல் 70B parameters வரையிலான மாடல்களை இயக்குவதை சாத்தியமாக்குகிறது. GPU முடுக்கம் NVIDIA (CUDA), AMD (Vulkan) மற்றும் Apple Silicon (Metal) ஆகியவற்றுக்கு இயல்பாகவே ஆதரிக்கப்படுகிறது.

OpenAI-உடன் இணக்கமான உள்ளமைந்த local API server LM Studio-ஐ எந்த இணக்கமான பயன்பாட்டுடனும் இணைக்க அனுமதிக்கிறது. இக்கருவி தனிப்பட்ட பயன்பாட்டிற்கு இலவசம். வணிகங்களுக்கு, அர்ப்பணிக்கப்பட்ட ஆதரவுடன் கோரிக்கையின் பேரில் "LM Studio @ Work" திட்டம் கிடைக்கிறது.

LM Studio-வின் வலிமை சக்தி மற்றும் எளிமைக்கு இடையிலான சமநிலையில் உள்ளது: terminal-ஐ தொட வேண்டியதில்லை, அனைத்தும் காட்சி ரீதியாக கட்டமைக்கப்படுகிறது. தொழில்நுட்ப சிரமங்களின்றி உள்ளூர் AI-ஐ பயன்படுத்த விரும்புபவர்களுக்கு இது சிறந்த தேர்வாகும்.