آموزش راه اندازی هوش مصنوعی با Ollama و اتصال به vs code ( ویدیو )

ویدیو در انتهای مقاله میباشد

هوش مصنوعی تقریبا یک ابزار مورد نیاز در همه ی زمینه ها شده و برنامه نویسی هم از این قضیه جدا نیست. در این آموزش یاد میگیریم چطور یک هوش مصنوعی کامل با استفاده از ollama راه اندازی کنیم که هم بتوانیم در کامپیوتر شخصی بصورت کاملا افلاین استفاده کنیم و هم بتوانیم به اشتراک بگذاریم تا درون شبکه سازمانی یا حتی در بستر اینترنت از طریق وب سایت در دسترس عموم باشد.

 

اولاما ( Ollama ) و نصب آن

اولاما ( ollama ) یک واسط برای اجرای مدل های زبانی هوش مصنوعی بصورت آفلاین میباشد که از طریق API امکاناتی را در اختیار شما قرار میدهد و شما میتوانید از طریق API با مدل زبانی که نصب کرده اید در ارتباط باشید. برای نصب ollama روی سیستم خود ابتدا به صفحه ی دانلود ollama و هوش مصنوعی های آفلاین مراجعه کنید و آنرا نصب کنید.

برای اجرای ollama باید از خط فرمان استفاده کنید که در لینوکس و مک terminal و در ویندوز از CMD میتوانید استفاده کنید.

سپس شما باید فایل های مدل های افلاین را دانلود و در مسیر ~/.ollama/models در لینوکس و مسیر C:/users/username/.ollama/models کپی کنید. این مسیر باید شامل دو پوشه blobs و manifests باشد که پوشه blobs شامل مدل افلاین هوش مصنوعی است که دانلود میکنید و شما باید مانیفست های مربوط به آنرا نیز در درون پوشه manifests داشته باشید.

نسخه ی ویندوزی ollama دارای یک نسخه ی گرافیکی می باشد که به راحتی میتوانید از طریق آن نیز با هوش مصنوعی صحبت کنید ولی پیشنهاد ما این است برای تسلط بیشتر سعی کنید دستورات ollama در ترمینال را یاد بگیرید و اگر محیط گرافیکی نیاز دارید open webui را نصب و به ollama متصل کنید. open webui یک واسط گرافیکی تحت وب میباشد که به شما اجازه میدهد یک وب سایت شبیه به chat gpt یا deepseek داشته باشید تا بصورت افلاین با هوش مصنوعی خود صحبت کنید.

 

مدل های زبانی آفلاین برای Ollama 

بعد از نصب ollama نیاز است که شما یک مدل زبانی آفلاین را درون سیستم بریزید تا ollama آنرا شناسایی و از آن استفاده کند. اگر به اینترنت بین المللی دسترسی داشته باشید فرایند دانلود و نصب مدل های زبانی از طریق خود ollama انجام میگیرد ولی در زمانی که شما دسترسی به اینترنت ندارید یا فایل ها را بصورت آفلاین از جایی تهیه کرده اید باید آن فایل مد زبانی را درون models و پوشه ی blobs قرار دهید و علاوه بر آن مانیفست آنرا نیز در پوشه ی manifests قرار داده باشید. در این صورت مدل شناسایی میشود و ollama میتواند از آن مدل هوش مصنوعی استفاده کند.

مدل های زبانی در انواع مختلف ارائه میشوند که برای هر سیستم و هر هدفی کاربرد های خود را دارند. چیزی که مهم است میزان پارامتر های یک مدل و معماری آن است. هرچه پارامترهای یک مدل بیشتر باشد یعنی داده های بیشتری درون آن مدل قرار گرفته است و طبیعی است که حجم آن نیز بیشتر شود و از منابع سیستم نیز بیشتر استفاده بکند. نماد پارامتر در مدل ها حرف b به معنی بیلیون میباشد وقتی میگوییم مدل زبانی 12b یعنی ۱۲ بیلیون پارامتر دارد. مورد بعدی معماری هست که توسط سازنده ی آن مدل زبانی ساخته و درون مدل قرار میگیرد مثلا معماری gemma 3 یا gpt و ...

 

برخی از مدل های زبانی اینجا برای دانلود قرار گرفته است و برخی را نیز میتوانید از سایت های دانلودی ایرانی مثل سافت ۹۸ یا پی سی دانلود تهیه کنید.

• 🔗 دانلود برخی مدل های افلاین از آواسام
• 🔗 دانلود مدل ها از سافت ۹۸
• 🔗 دانلود مدل ها از پی سی دانلود 

 

اتصال ollama به محیط visual studio code

محیط ویژوال استودیو کد ( vs code ) از محیط های بسیار محبوب در زمینه ی برنامه نویسی است که در زمینه های گوناگون برنامه نویسی کاربردی است برای اتصال visual studio code به ollama شما میتوانید از اکستنشنی به نام continue استفاده کنید.

• دانلود اکستنشن های visual studio code

بعد از نصب continue در قسمت تنظیمات یا چت جدید شما باید agent را روی ollama قرار دهید و حتما قبل از این کار در ترمینال یا CMD دستور ollama serve را بزنید تا اولاما بصورت کامل اجرا شده باشد تا بتواند مدل های نصب شده را داخل ویژوال استودیو کد شناسایی کند.

(( اکستنشن continue از آن دسته اکستنشن هایی هست که به پلتفرم شما یعنی سیستم عاملی که استفاده میکنید وابسته است پس باید نسخه ی مناسب سیستم عامل خود را نصب کنید ، سه نسخه ی ویندوز ، مک و لینوکس در پک دانلودی قرار گرفته است و همچنین شما میتوانید فایل vsix اکستنشن را اکسترکت بکنید و فایل extension.vsixmanifest را بررسی کنید درون این فایل عبارت TargetPlatform نشان میدهد که این اکستنشن مناسب چه سیستم عاملی است برای مثال TargetPlatform="win32-x64" یعنی برای ویندوز میباشد و اگر نام یکی از توزیع های لینوکسی باشد به احتمال بالا روی تمام توزیع های لینوکسی کار خواهد کرد ))

 

ویدیو آموزش راه اندازی هوش مصنوعی افلاین با ollama و اتصال به vs code

 

سوالات متداول 

آیا ollama روی گوشی موبایل کاربرد دارد؟

خیر . در حال حاضر ollama سه نسخه مک ، لینوکس و ویندوزی دارد.

برای اجرای ollama چه نوع سیستمی یا لپتاپی نیاز است ؟

بستگی به مدل استفاده شده دارد. خود ollama مهم نیست . هرچه مدل پارامتری که روی ollama اجرا کنید بالاتر باشد نیاز به رم و سی پی یو و حتی گرافیک بالاتری خواهد داشت. مثلا با لپتاپ ۱۶ گیگ شما میتوانید gemma 3 با پارامتر ۱۲ بیلیون را اجرا کنید ولی اگر میزان پارامتر بیشتر شود به رم ۳۲ گیگ نیاز است.

آیا ollama محیط گرافیکی مثل دیپ سیک دارد؟

خیر ollama یک واسط هست که بصورت api به شما خدمات میدهد. هرچند در ویندوز دارای نرم افزار گرافیکی نیز میباشد که به راحتی میتوانید باز کنید و چت را انجام بدهید. یکی از بهترین نسخه های گرافیکی که میشود به ollama توصیه کرد هم روی سیستم شخصی کاربرد دارد هم بصورت انلاین و اشتراکی میتوانید به بقیه بدهید از هوش مصنوعی شما استفاده کنند open webui می باشد.

با ollama میتونم یه چیزی شبیه چت جی پی تی بسازم تا مردم استفاده کنن؟

بله ولی این نیاز به دانش بالا و مهارت بالایی داره . سرور باید تهیه کنید و همینطور بتوانید open webui را شخصی سازی بکنید و خیلی تخصص ها مثل داکر و مدیریت سرور و ... را بلد باشید.