ü¸®¸¶½ºÅÍ pc¿ë 87.rqg933.top ¹Ù·Î°¡±â ¿À¼ÇÆÄ¶ó´ÙÀ̽º3
ü¸®¸¶½ºÅÍ pc¿ë 35.rqg933.top ¿À¼ÇÆÄ¶ó´ÙÀ̽º3
ü¸®¸¶½ºÅÍ pc¿ë 44.rqg933.top ¿À¼ÇÆÄ¶ó´ÙÀ̽º3
ü¸®¸¶½ºÅÍ pc¿ë 81.rqg933.top ¿À¼ÇÆÄ¶ó´ÙÀ̽º3
ü¸®¸¶½ºÅÍ pc¿ë 89.rqg933.top ¿À¼ÇÆÄ¶ó´ÙÀ̽º3
ü¸®¸¶½ºÅÍ pc¿ë 99.rqg933.top ¿À¼ÇÆÄ¶ó´ÙÀ̽º3
ü¸®¸¶½ºÅÍ pc¿ë 80.rqg933.top ¿À¼ÇÆÄ¶ó´ÙÀ̽º3
ü¸®¸¶½ºÅÍ pc¿ë 22.rqg933.top ¿À¼ÇÆÄ¶ó´ÙÀ̽º3
ü¸®¸¶½ºÅÍ pc¿ë 81.rqg933.top ¿À¼ÇÆÄ¶ó´ÙÀ̽º3
ü¸®¸¶½ºÅÍ pc¿ë 44.rqg933.top ¿À¼ÇÆÄ¶ó´ÙÀ̽º3
ü¸®¸¶½ºÅÍ pc¿ë 59.rqg933.top ¿À¼ÇÆÄ¶ó´ÙÀ̽º3
Ȳ±Ý¼º2 ¹Ù´ÙÀ̾߱⠻çÀÌÆ® ¾ß¸¶Åä°ÔÀÓ°ø·« ¹ý ¹Ù´ÙÀ⵿̾߱¿µ»ó ½Å¹Ù´ÙÀ̾߱⠹ٴÙÀ̾߱⠻ó¾î ¹Ù´ÙÀ̾߱⠽ÃÁð7 ¹Ù´ÙÀ̾߱⠱âÇÁÆ® Àüȯ ¹Ù´ÙÀ̾߱⠽ÃÁð7 ¹Ù´ÙÀ̾߱â pc ¹öÀü ¸±°ÔÀÓ5¸¸ ¾ß¸¶Åä°ÔÀÓ Ãֽž߸¶Åä ²Ç¸Ó´Ï ½½·Ô¸Ó½Å ±ÔÄ¢ ¼Õ¿À°ø¸±°ÔÀÓ´Ù¿î·Îµå ¹«·á ¾ß¸¶Åä°ÔÀÓ Ä«Ä«¿À ¾ß¸¶Åä ¸ÔÆ¢ ¾ß¸¶Åä5°ÔÀÓ´Ù¿î·Îµå ¸±°ÔÀÓ °ø·«¹ý Ä«Áö³ë¸±°ÔÀÓ ¹«·á°ÔÀÓ´Ù¿î·Îµå ÀÎÅͳݾ߸¶Åä ¾¾¿£Á¶ÀÌ ¸±°ÔÀÓ ¾ß¸¶Åä¿Â¶óÀÎÁÖ¼Ò ¸ÞŸ½½·Ô ¿À¶ô½ÇȲ±Ý¼º ¹«·á¿Â¶óÀΰÔÀÓ ¸±°ÔÀÓ ¹«·á¸Ó´Ï Ȳ±Ý¼º°ÔÀÓ·£µå ¾ß¸¶Åä µ¿¿µ»ó ¿Â¶óÀθ±°ÔÀÓ¿¹½Ã ºÎ»ê¾ß¸¶Åä °íÀü¸±°ÔÀÓ ¹Ù´ÙÀ̾߱⠸±°ÔÀÓ ¸±°ÔÀÓ¸ÔÆ¢°ËÁõ ¸ÔÆ¢ ÇÇÇØ º¹±¸ ¹«·áÃæÀü¸±°ÔÀÓ ¼Õ¿À°ø¹Ù´ÙÀ̾߱⠿À¼ÇÆÄ¶ó´ÙÀ̽º´Ù¿î ºüĪÄÚ°ÔÀÓ´Ù¿î·Îµå ·°Å°¼¼ºì Ȳ±Ý¼º¸± ÀÎÅͳݹٴÙÀ̾߱⠿¶óÀÎ ½½·Ô ¸Ó½Å °ÔÀÓ ½½·Ô¸Ó½Å ÄÚµù ¸±°ÔÀÓõ±¹ ¿ìÁÖÀüÇÔ ¾ß¸¶Åä ¸ÔÆ¢ 10¿ø ¾ß¸¶Åä°ÔÀÓ È²±Ý¼ºÇϴ¹ý ¸±°ÔÀÓ »çÀÌÆ® ¹Ù´Ù ÀÌ¾ß±â ´Ù¿î ¹ÙµÏÀ̳ݸ¶ºí ÆÄ¶ó´ÙÀ̽º¿À¼Ç ¸±°ÔÀÓ »çÀÌÆ® ¸ÞÀÌÀú¸±°ÔÀÓ»çÀÌÆ® ¾ß¸¶Åä´Ù¿î·Îµå ¹Ù´Ù½Å2¿µ»ó ¹Ù´ÙÀ̾߱⵵¹Ú Ȳ±Ý¼º °ÔÀÓ·£µå ½½·Ô»çÀÌÆ® ¼øÀ§ ¸ð¹ÙÀϸ±°ÔÀÓ Á¾·ù ¸ð¹ÙÀϸ±°ÔÀÓ Á¢¼ÓÇϱ⠺üĪÄÚ ½½·Ô¸Ó½Å ¸ð¹Ù¾Ë¹Ù´ÙÀ̾߱â Ȳ±Ý¼º°ÔÀÓ°ø·«¹æ¹ý ¿Â¶óÀÎÆÄĪÄÚ È²±Ý¼º°ÔÀÓÁ¾·ù °½Ã Ȳ±Ý¼ºÆ÷Ä¿°ÔÀÓ ¹Ù´ÙÀ̾߱â°ÔÀÓÇϴ¹æ¹ý ½½·Ô¸Ó½Å È®·ü ¿Â¶óÀθ±°ÔÀÓ È²±Ý¼º3°ÔÀÓ¿¬Å¸ ¹Ù´ÙÀ̾߱⠰ÔÀÓ¹æ¹ý ¹Ù´ÙÀ̾߱â 2È ¸±°ÔÀÓÀÓ´ë ¹Ù´ÙÀ̾߱â pc¹öÀü ´Ù¿î ¿À¼ÇÆÄ¶ó´ÙÀ̽ºÇϴ¹æ¹ý ¾Ë¶óµò°ÔÀÓ ¹«·á¹Ù´ÙÀ̾߱⠿¶óÀνÅõÁö ´ÙºóÄ¡¹«·á¸±°ÔÀÓ ¹Ù´ÙÀ̾߱⠽ÃÁð7 ½½·Ô¸Ó½Å¹«·á ¹«·á ÃæÀü ¹Ù´ÙÀ̾߱⠾߸¶Åä3´Ù¿î·Îµå°ÔÀÓ»çÀÌÆ® ¾Ë¶óµò¸±°ÔÀÓ »çÀÌÆ® ÀÎÅͳݸ±°ÔÀÓ ¹Ù´ÙÀ̾߱â²Ç¸Ó´ÏȯÀü ½Åõ±â¸±°ÔÀÓ °ÔÀÓ¸ô sp¾ß¸¶Åä 10¿ø¹Ù´ÙÀ̾߱⠸±°ÔÀÓ¼Õ¿À°ø ¿Â¶óÀν½·Ô ¹èÆÃ¹ý ¿Â¶óÀξ߸¶ÅäÁÖ¼Ò ¹Ù´ÙÀ̾߱âÇÁ·Î±×·¥ ¹Ù´ÙÀ̾߱â°ÔÀÓ2018 ½Ç½Ã°£¹ÙµÏÀÌ ¸ÅÀåÆÇȲ±Ý¼º Ȳ±Ý¼º¸ÅÀå ¹é°æ»çÀÌÆ® ¹Ù´ÙÀ̾߱⠹è´ç ¹Ù´ÙÀ̾߱⠽ÃÁð7 ¾ß¸¶Åä°ÔÀÓÀå »ÇºüÀÌ ¸±°ÔÀÓ ºüÄ£ÄÚ°ÔÀÓ ÇÁ¶ó ±×¸¶ ƽ ¹«·áüÇè ¸Ó´Ï È²±Ý¼º ´Ù¿î ¿À¼Ç½½·Ô ¸ÔÆ¢ ¹é°æ°ÔÀÓ»çÀÌÆ® ¸±°ÔÀÓº¸¹°¼¶ Ȳ±Ý¼º°¥°¥ÀÌ °ÔÀÓ¹ÙµÏÀÌÃßõ ¸±°ÔÀÓ½ÅõÁö ¹é°æ´Ù¿î·Îµå ¿Ã½Ó¹Ù ÇÁ¶ó±×¸¶Æ½ ¹«·áüÇè ¿À¶ô½ÇȲ±Ý¼º ºüĪÄÚ ½½·Ô¸Ó½Å ¾¾¿£Á¶ÀÌ ¸±°ÔÀÓ ´ÙºóÄ¡ ºüÄ£ÄÚ°ÔÀÓ ÆÄÄ£ÄÚ°ÔÀÓ´Ù¿î·Îµå (Áöµð³ÝÄÚ¸®¾Æ=±ÇºÀ¼® ±âÀÚ)¿£ºñµð¾Æ¡¤AMD GPU ´ëºñ °¡°Ý ´ëºñ ¼º´ÉÀ» ±Ø´ëÈÇÑ ÀÎÅÚ AI GPU ¿öÅ©½ºÅ×ÀÌ¼Ç 'ÇÁ·ÎÁ§Æ® ¹èƲ¸ÅÆ®¸¯½º'(Project Battlematrix)°¡ ÃÖ±Ù ¸®´ª½º¿ë ¼ÒÇÁÆ®¿þ¾î Á¤½Ä ¹öÀü(1.0)À» °ø°³Çϰí Áö¼ÓÀûÀÎ ¾÷µ¥ÀÌÆ®¸¦ ¿¹°íÇß´Ù.
ÇÁ·ÎÁ§Æ® ¹èƲ¸ÅÆ®¸¯½º´Â ÃÖ´ë 1¸¸ ´Þ·¯(¾à 1õ383¸¸¿ø) °¡°Ý¿¡ 1õ500¾ï °³ ¸Å°³º¯¼ö·Î ±¸¼ºµÈ °Å´ë¾ð¾î¸ðµ¨(LLM)À» ó¸®ÇÒ ¼ö ÀÖ´Â AI Ãß·Ð Æ¯È ¿öÅ©½ºÅ×À̼ÇÀÌ´Ù.
¾ÆÅ© ÇÁ·Î GPU¸¦ ÃÖ´ë 8°³ žÀç °¡´ÉÇÑ Á¦¿Â ±â¹Ý Ç÷§Æû 'ÇÁ·ÎÁ§Æ® ¹èƲ¸ÅÆ®¸¯½º'. (»çÁø=ÀÎÅÚ)
ºñ¿ë ´ëºñ È¿À² ´ëÃâ±Ý¸® À» Áß½ÃÇÏ´Â Áß/¼Ò±Ô¸ð ±â¾÷°ú °³¹ßÀÚ ´ë»óÀ¸·Î Ŭ¶ó¿ìµå ÀÇÁ¸µµ°¡ ³ôÀº Çö AI ¿öÅ©·Îµå ¿î¿µ ¹æ½ÄÀ» ¿ÂÇÁ·¹¹Ì½º Áß½ÉÀ¸·Î ÀϺΠÀüȯÇÒ ¼ö ÀÖ´Â °¡´É¼ºÀ» Á¦°øÇÑ´Ù´Â Á¡¿¡¼ Àǹ̰¡ Å©´Ù.
5¿ù ¾ÆÅ© ÇÁ·Î GPU ±â¹Ý '¹èƲ¸ÅÆ®¸¯½º' °ø°³
ÇÁ·ÎÁ§Æ® ¹èƲ¸ÅÆ®¸¯½º´Â ÀÎÅÚÀÌ Áö³ 5¿ù ¿öÅ©½ºÅ×ÀÌ¼Ç GPUÀÎ ¾ÆÅ© ÇÁ·Î B½Ã¸®Áî¿Í ÇÔ²² ÆÄ»ê¼±°íºñ¿ë °ø°³ÇÑ AI ¿öÅ©½ºÅ×ÀÌ¼Ç Ç÷§ÆûÀÌ´Ù.
ÁÖ¿ä ±×·¡ÇÈÄ«µå Á¦Á¶»ç°¡ ½ÃÀå¿¡ °ø±ÞÁßÀÎ ¾ÆÅ© ÇÁ·Î B60 žÀç ±×·¡ÇÈÄ«µå. (»çÁø=ÀÎÅÚ)
Xe2 ÄÚ¾î 20°³¿Í 24GB ¸Þ¸ð¸®¸¦ žÀçÇÑ ¾ÆÅ© ÇÁ·Î B60 GPU ÃÖ´ë 8°³¸¦ °á ¹Î±¹ÀúÃàÀºÇà ÇÕÇØ INT8(Á¤¼ö, 8ºñÆ®) ±âÁØ 1,576 TOPS(1ÃÊ´ç 1Á¶ ¹ø ¿¬»ê)±Þ ¿¬»ê ¼º´ÉÀ» ±¸ÇöÇß´Ù. GPU°¡ Ȱ¿ëÇÏ´Â ¸Þ¸ð¸® ¿ë·®Àº 192GB·Î 1õ500¾ï °³ ¸Å°³º¯¼ö·Î ±¸¼ºµÈ °Å´ë¾ð¾î¸ðµ¨(LLM)À» ±¸µ¿ÇÒ ¼ö ÀÖ´Ù.
¿î¿µÃ¼Á¦ ±¸µ¿¿¡´Â ¿öÅ©½ºÅ×ÀÌ¼Ç±Þ Á¦¿Â ÇÁ·Î¼¼¼¸¦ Ȱ¿ëÇÏ°í ¿î¿µÃ¼Á¦´Â ¸®´ª½º¸¦ Ȱ¿ëÇÏ´Ù. °¡°Ý´ë´Â 5õ ´Þ·¯(¾à 691 Æó¾÷ ¸¸¿ø)¿¡¼ 1¸¸ ´Þ·¯(¾à 1õ383¸¸¿ø)·Î AI Ãß·Ð ÀÎÇÁ¶ó¿¡ ´ëÇÑ ÁøÀÔ À庮À» ³·Ãß´Â °ÍÀ» ¸ñÇ¥·Î ÇÑ´Ù.
LLM ½ºÄÉÀÏ·¯ 1.0 °ø°³... Ãß·Ð ¼Óµµ ÃÖ´ë 4¹è Çâ»ó
ÀÎÅÚÀº ¹èƲ¸ÅÆ®¸¯½º¿ë ¼ÒÇÁÆ®¿þ¾î ±¸Ãà¿¡ CPU¿Í GPU, NPU¿Í °¡¼Ó±â µî ¿¬»ê ÀÚ¿øÀ» ¸ðµÎ Ȱ¿ëÇÏ´Â ¿øAPI(OneAPI)¸¦ Ȱ¿ëÇϰí À̸¦ Áö¼ÓÀûÀ¸·Î Ãʺ¸Ã¢¾÷ °³¼±Çϰí ÀÖ´Ù.
ÀÌ´Þ Ãʼø °ø°³µÈ LLM ½ºÄÉÀÏ·¯ 1.0 ¹öÀüÀº Ãʱ⠹öÀü ´ëºñ LLM ó¸® ¼Óµµ Çâ»ó¿¡ ÁßÁ¡À» µ×´Ù. ¸Å°³º¯¼ö 320¾ï °³ ±Ô¸ð ¸ðµ¨ ±âÁØ Ã³¸® ¼Óµµ´Â 1.8¹è, 700¾ï °³±Þ ¸ðµ¨ ó¸® ¼º´ÉÀº 4.2¹è ³ô¾ÆÁ³´Ù.
ÇÁ·ÎÁ§Æ® ¹èƲ¸ÞÀÌÁö¿ë ¸®´ª½º ¼ÒÇÁÆ®¿þ¾î ½ºÅÃ. (ÀÚ·á=ÀÎÅÚ)
·¹À̾ ¿Â¶óÀÎ ¾çÀÚȸ¦ ÅëÇØ GPU ¸Þ¸ð¸® ¿ä±¸·®À» ÁÙ¿´°í, vLLM ±â¹Ý ÆÄÀÌÇÁ¶óÀÎ º´·Ä 󸮸¦ ½ÇÇèÀûÀ¸·Î µµÀÔÇØ ´ë±Ô¸ð ¸ðµ¨ Ãß·ÐÀÇ º´¸ñÀ» ¿ÏÈÇß´Ù.
ÀÓº£µù¡¤Àç¼øÀ§ ¸ðµ¨ Áö¿ø, ¸ÖƼ¸ð´Þ ÀԷ ó¸® °È, ÃÖ´ë ±æÀÌ ÀÚµ¿ °¨Áö, µ¥ÀÌÅÍ º´·Ä ó¸® ÃÖÀûÈ ±â´Éµµ »õ·Ó°Ô Ãß°¡µÆ´Ù.
¿ø°Ý °ü¸®°¡ ÇÊ¿äÇÑ ±â¾÷ ȯ°æ¿¡¼ GPU Àü·Â °ü¸®¿Í Æß¿þ¾î ¾÷µ¥ÀÌÆ®, ¸Þ¸ð¸® ´ë¿ªÆø ¸ð´ÏÅ͸µ µî ±â´ÉÀ» °®Ãá XPU ¸Å´ÏÀú¸¦ Ãß°¡Çß´Ù. GPU 1°³¸¦ ¿©·¯ °¡»óÈ ÀνºÅϽº°¡ Ȱ¿ëÇÒ ¼ö ÀÖ´Â SR-IOV ±â´Éµµ Ãß°¡Çß´Ù.
Áß¼Ò±â¾÷¡¤°³ÀÎ °³¹ßÀÚ À§ÇÑ ¿ÂÇÁ·¹¹Ì½º Ãß·Ð ÀÎÇÁ¶ó Á¦°ø
ÇöÀç GPU ½ÃÀåÀº ¿£ºñµð¾Æ¿Í AMD°¡ ¼º´É Áß½ÉÀÇ ¼¹ö ½ÃÀåÀ» ¾çºÐÇÏ´Ù½ÃÇÇ ÇÏ´Â »óȲÀÌ´Ù. ¹Ý¸é ÀÎÅÚÀÌ ÇϹٳª·¦½º Àμö ÈÄ Ãâ½ÃÇϰí ÀÖ´Â AI °¡¼Ó±âÀÎ °¡¿ìµð3´Â Á¦ÇÑÀûÀÎ ½ÃÀå Á¡À¯À²À» È®º¸Çϰí ÀÖ´Ù.
ÀÎÅÚ °¡¿ìµð3 AI °¡¼Ó±â. (»çÁø=ÀÎÅÚ)
¹èƲ¸ÅÆ®¸¯½º´Â Á¤Ã¼µÈ ¼¹ö ½ÃÀå ´ë½Å ÇÕ¸®ÀûÀÎ °¡°Ý¡¤¸ÖƼ GPU È®À强¡¤°ü¸® ÆíÀǼºÀ» ¹«±â·Î Áß¼Ò±â¾÷°ú °³ÀÎ °³¹ßÀÚÃþÀ» Á÷Á¢ °ø·«Çϱâ À§ÇÑ Á¦Ç°ÀÌ´Ù.
ÇâÈÄ ·Îµå¸Êµµ °ø°ÝÀûÀÌ´Ù. ÀÎÅÚÀº ÀÌ´Þ LLM ½ºÄÉÀÏ·¯ °ø°³¿¡ ÀÌ¾î ¿À´Â SR-IOV °íµµÈ, VDI Áö¿ø, °ü¸® ¼ÒÇÁÆ®¿þ¾î ¹èÆ÷ ±â´É µî ¸ðµç ±â´ÉÀ» ±¸ÇöÇÑ ¿ÏÀüÆÇÀ» °ø°³ ¿¹Á¤ÀÌ´Ù.
±ÇºÀ¼® ±âÀÚ(bskwon@zdnet.co.kr)