¸¶À½AI°¡ 2´ëÀÇ ¿£ºñµð¾Æ A100 GPU¸¦ È°¿ëÇØ 70B ÆĶó¹ÌÅÍÀÇ ´ë±Ô¸ð ¾ð¾î¸ðµ¨(LLM) '¸»-¾Ë¹ÙÆ®·Î½º'(MAAL-Albatross)¸¦ ±¸µ¿ÇÒ ¼ö ÀÖµµ·Ï ÃÊ°æ·®ÈÇÏ´Â µ¥ ¼º°øÇß´Ù°í ¹àÇû´Ù.
¸¶À½AI°¡ ÃÖ±Ù ÀúÀü·Â Ĩ¿¡ STT, TTS, LLMÀ» žÀç, ¿Âµð¹ÙÀ̽º(On-device) AI ºÐ¾ß¿¡¼ °¡´É¼ºÀ» Á¦½ÃÇѵ¥ À̾î, ¿ÂÇÁ·¹¹Ì½º(On-premise) AI ºÐ¾ß¿¡¼µµ °æÀï·ÂÀ» ÀÔÁõÇß´Ù°í ȸ»ç ÃøÀº ¹àÇû´Ù.
¿ÂÇÁ·¹¹Ì½º LLMÀÇ ÁÖ¿ä °úÁ¦´Â ´ë±Ô¸ð ¾ð¾î¸ðµ¨À» ±â¾÷ ³»ºÎ ³×Æ®¿öÅ©¿¡ Àû¿ëÇϱâ À§ÇØ ¸ðµ¨ Å©±â¸¦ ÁÙÀÌ´Â °ÍÀÌ´Ù. ¸¶À½AI´Â ¾çÀÚÈ ±â¼úÀ» ÅëÇØ ´ë±Ô¸ð ¾ð¾î¸ðµ¨ ÆĶó¹ÌÅ͸¦ 4ºñÆ®·Î ¾ÐÃàÇϸ鼵µ ±âÁ¸ ¼º´ÉÀ» À¯ÁöÇÏ´Â ¼º°ú¸¦ ³Â´Ù.
¸¶À½AI´Â »ç³» µ¥ÀÌÅÍ À¯Ãâ ¾øÀÌ »ç¿ëÇÒ ¼ö ÀÖ´Â LLM 꺿°ú ¾÷¹« È¿À²¼ºÀ» ±Ø´ëÈÇÏ´Â ´Ù¾çÇÑ ÅøÀ» ÆÐÅ°Áö·Î ¹¾î ±â¾÷¿¡ °ø±ÞÇÏ°í ÀÖ´Ù. ÃÖ±Ù¿¡´Â êÇ÷¹ÀÌ(Chatplay) µµ±¸¸¦ Ãâ½Ã, °í°´ÀÌ ¸ÂÃãÇü 꺿À» Á÷Á¢ »ý¼ºÇÒ ¼ö ÀÖµµ·Ï Áö¿øÇÏ°í ÀÖ´Ù. »ç³» ¹®¼¸¦ PDF, MS ¿öµå, ÅؽºÆ® Çü½ÄÀ¸·Î ¾÷·ÎµåÇϸé, »ç³» ÀڷḦ ¹ÙÅÁÀ¸·Î ´äº¯ÀÌ »ý¼ºµÇ¸ç, ´äº¯ÀÇ Ãâó±îÁö È®ÀÎÇÒ ¼ö ÀÖ´Ù. Á÷¿øµéÀÇ ¾÷¹« »ý»ê¼ºÀ» ±Ø´ëÈÇÏ°í, °í°´ÀÇ °³ÀÎÁ¤º¸ µî ¹Î°¨ÇÑ µ¥ÀÌÅ͸¦ ¾ÈÀüÇÏ°Ô ´Ù·ê ¼ö ÀÖ´Ù.
¸¶À½AI °ü°èÀÚ´Â "°íÀ¯ÀÇ °æ·®È ±â¼úÀ» ÅëÇØ °í°´µéÀÌ °æÁ¦ÀûÀÌ°í °¡º¿î ¿ÂÇÁ·¹¹Ì½º LLM ¼ºñ½º¸¦ È°¿ëÇÒ ¼ö ÀÖµµ·Ï Áö¿øÇÏ°Ú´Ù"°í ¸»Çß´Ù. |