Monday, 29 April 2024
AI

ตร. สรุป อาชญากรรมออนไลน์ที่ต้องจับตามอง ปี 2567 ยุคที่ AI สามารถเนรมิตได้ทุกอย่าง

วันนี้ (19 ธันวาคม 2566) พล.ต.ต.ศิริวัฒน์ ดีพอ รองโฆษกสำนักงานตำรวจแห่งชาติ กล่าวว่า พล.ต.อ.ต่อศักดิ์ สุขวิมล ผบ.ตร. ได้มีความห่วงใยพี่น้องประชาชนที่อาจได้รับความเสียหายจากอาชญากรรมรูปแบบต่าง ๆ ซึ่งจากสถิติการรับแจ้งความออนไลน์คดีอาชญากรรมทางเทคโนโลยี ของสำนักงานตำรวจแห่งชาติ ที่ผ่านมาพบว่ารูปแบบคดีที่มีจำนวนการแจ้งความมากที่สุดอันดับ 1 ยังคงเป็น “การหลอกลวงซื้อขายสินค้าหรือบริการทางออนไลน์” มีจำนวนกว่า 150,000 คดี ส่วนรูปแบบคดีที่มีความเสียหายรวมสูงที่สุด อันดับ 1 คือ “หลอกให้ลงทุนผ่านระบบคอมพิวเตอร์” มีความเสียหายรวมกว่า 16,000 ล้านบาท สำหรับคดีในรูปแบบอื่น ๆ อาทิ “การหลอกให้โอนเงิน” “การหลอกให้กู้เงิน” และ “การข่มขู่ทางโทรศัพท์” ก็ยังคงรูปแบบคดีที่มีผู้เสียหายและสร้างความเสียหายในอันดับต้น ๆ เช่นเดียวกัน

สำนักงานตำรวจแห่งชาติ จึงขอเตือนให้พี่น้องประชาชนระมัดระวังในการใช้สื่อออนไลน์และอุปกรณ์อิเล็กทรอนิกส์ทุกประเภท เพราะคนร้ายจะพยายามใช้ทุกช่องทางในการเข้าถึงเป้าหมาย ไม่ว่าจะเป็นการส่ง SMS การโทรศัพท์หาเหยื่อ การลงโฆษณาในสื่อสังคมออนไลน์ หรือเว็บไซต์ต่าง ๆ และในหลายกรณีพบว่าคนร้ายมีข้อมูลส่วนบุคคลเชิงลึกของเหยื่อใช้ประกอบการหลอกลวงเพื่อเพิ่มความน่าเชื่อถือด้วย

ส่วนแนวโน้มรูปแบบของอาชญากรรมออนไลน์ในปี พ.ศ. 2567 ที่จะมาถึงนี้ สิ่งที่พี่น้องประชาชนต้องระมัดระวังนอกเหนือจากที่ได้กล่าวมาข้างต้น คือการที่คนร้ายนำเทคโนโลยีปัญญาประดิษฐ์ (Artificial Intelligence หรือ AI) มาใช้ในการสร้างเนื้อหาปลอมขึ้นมาเพื่อใช้ในการฉ้อโกง หรือสร้างความเสียหาย โดยการนำ AI มาใช้สร้างภาพหรือคลิปปลอม เพื่อนำมาแสวงหาประโยชน์ต่าง ๆ เช่น
1. การสร้างภาพหรือคลิปปลอมเป็นบุคคลอื่น (AI Deepfakes) เพื่อใช้ในการฉ้อโกง
2. การเลียนเสียงของบุคคลที่มีชื่อเสียงหรือคนรู้จัก (AI Voice Covers) จากตัวอย่างเสียง เพื่อใช้ในการฉ้อโกง
3. การสร้างคลิปลามกปลอม (AI Deepfakes) ทำให้บุคคลอื่นเสื่อมเสียชื่อเสียงหรือแสวงหาประโยชน์
4. การสร้างข่าวปลอม (Fake News) ที่ดูน่าเชื่อถือ ทำให้เกิดความตื่นตระหนก หรือความเข้าใจผิด
โดยวิธีการที่จะป้องกันตนเองไม่ให้ตกเป็นเหยื่อคือการอย่าเชื่อในสิ่งที่เห็นหรือได้ยินในโลกออนไลน์ โดยยึดหลัก “ไม่เชื่อ ไม่รีบ ไม่โอน” เพื่อป้องกันตนเองไม่ให้ตกเป็นเหยื่อของอาชญากรรมออนไลน์ และหากพบว่าตนเองถูกแอบอ้างหรือปลอมบัญชีสื่อสังคมออนไลน์ ให้รีบดำเนินการ “แจ้งความ รีพอร์ต บอกเพื่อน” เพื่อป้องกันความเสียหายที่อาจเกิดขึ้นกับญาติพี่น้อง หรือเพื่อนสนิทต่อไป

สุดท้ายนี้ หากพี่น้องประชาชนได้รับความเสียหายจากการหลอกลวงทางสื่อสังคมออนไลน์ สามารถแจ้งความร้องทุกข์ได้ที่ศูนย์รับแจ้งความออนไลน์ บนเว็บไซต์ www.thaipoliceonline.go.th หรือสายด่วน 1441 ได้ตลอด 24 ชั่วโมง.

หุ้น ‘Nvidia’ พุ่งแตะ!! 6.4% และปิดสูงสุดเป็นประวัติการณ์ หลังประกาศเปิดตัวการ์ดจอ AI หวังมัดใจผู้ชื่นชอบวิดีโอเกม

(9 ม.ค. 67) หุ้นอินวิเดีย (Nvidia) ซึ่งเป็นบริษัทผลิตชิปที่มีมูลค่าตลาดมากที่สุดในโลกจากสหรัฐ พุ่งขึ้นสู่ระดับปิดสูงสุดเป็นประวัติการณ์ในวันจันทร์ (8 ม.ค.) หลังอินวิเดียเปิดตัวหน่วยประมวลผลภาพกราฟิก (GPU) หรือ การ์ดจอ รุ่นใหม่ที่ใช้ประโยชน์จากปัญญาประดิษฐ์ (AI)

ทั้งนี้ หุ้นอินวิเดียปรับตัวขึ้น 6.4% ปิดที่ 522.53 ดอลลาร์สหรัฐต่อหุ้นในวันจันทร์ ซึ่งเป็นระดับปิดสูงสุดเป็นประวัติการณ์ หลังอินวิเดียประกาศเปิดตัวการ์ดจอรุ่น GeForce RTX 40 SUPER Series โดยมีวัตถุประสงค์หลักเพื่อเอาใจกลุ่มผู้ชื่นชอบวิดีโอเกม

นอกจากนี้ ก่อนถึงกำหนดจัดงานแสดงสินค้าอิเล็กทรอนิกส์เพื่อผู้บริโภค (Consumer Electronics Show) ในลาสเวกัส อินวิเดียยังได้ประกาศเปิดตัวชิ้นส่วนและซอฟต์แวร์ที่เกี่ยวข้องกับ AI

หุ้นอินวิเดียพุ่งขึ้นกว่า 3 เท่าตัวในปี 2566 เนื่องจากถูกมองว่าเป็นผู้นำในแวดวงซัพพลายเออร์ด้านการประมวลผลที่ใช้ในการคำนวณ AI

ด้าน แอลเอสอีจี (LSEG) ระบุว่า หุ้นอินวิเดียมีปริมาณการซื้อขายมูลค่ากว่า 3.2 หมื่นล้านดอลลาร์สหรัฐในวันจันทร์ ซึ่งสูงที่สุดในตลาดหุ้นวอลล์สตรีท โดยปัจจุบันมูลค่าตลาดของอินวิเดียอยู่ที่เกือบ 1.3 ล้านล้านดอลลาร์สหรัฐ

การปรับตัวขึ้นครั้งล่าสุดของหุ้นอินวิเดียหนุนให้ดัชนีชิปเซมิคอนดักเตอร์ PHLX พุ่งขึ้น 3.3%

‘Microsoft’ ขึ้นแท่นบริษัทที่มีมูลค่าสูงสุดในโลก แซงหน้า!! ‘Apple’ หลังได้รับแรงหนุนจากเอไอ

(15 ม.ค. 67) เพจเฟซบุ๊ก Business Tomorrow โพสต์ข้อความระบุว่า…

‘Microsoft’ แซงหน้า ‘Apple’ สู่บริษัทที่มีมูลค่าบริษัทมากที่สุดในโลกถือเป็นครั้งที่ 3 ตั้งแต่ก่อตั้งบริษัทมา

ไมโครซอฟท์ (Microsoft) ขึ้นเป็นบริษัทที่มีมูลค่ากิจการบริษัทตามราคาหุ้น (Market Cap.) สูงที่สุดในโลก แซงแอปเปิล (Apple) เป็นที่เรียบร้อยแล้ว หลังปิดการซื้อขายในตลาดหุ้นคืนวันศุกร์ที่ผ่านมา จากที่แซงได้ชั่วคราวเมื่อวันก่อน

ซึ่งมูลค่ากิจการของไมโครซอฟท์อยู่ที่ 2.89 ล้านล้านดอลลาร์ ขณะที่แอปเปิลอยู่ที่ 2.87 ล้านล้านดอลลาร์ ตัวเลขนี้แอปเปิลจึงมีโอกาสกลับมาแซงได้เช่นกัน ที่ผ่านมาไมโครซอฟท์มีมูลค่ากิจการสูงกว่าแอปเปิลช่วงระยะเวลาหนึ่ง ทั้งในปี 2018 และปี 2021

โดยปัจจัยบวกที่ทำให้มูลค่ากิจการไมโครซอฟท์เพิ่มสูงขึ้นคือ AI โดยเฉพาะจากการลงทุนใน OpenAI และการประกาศผลักดันฟีเจอร์ด้าน AI ต่าง ๆ ออกมาโดยตลอด ทำให้ไมโครซอฟท์ได้รับความเชื่อมั่นสูงว่าจะได้โอกาสจากการเติบโตของ AI ที่เป็นธีมสำคัญทางเทคโนโลยีในปีนี้ ขณะที่แอปเปิลนั้นมีข่าวที่ส่งผลกระทบหลายอย่าง ตั้งแต่ Apple Watch อาจถูกสั่งห้ามขายในอเมริกา, บทวิเคราะห์ของธนาคาร Barclays ที่ปรับลดมูลค่าของแอปเปิลลง, ข่าวอุปกรณ์ถูกสั่งแบนจากหน่วยงานของรัฐบาลจีน และอื่น ๆ

'นักลงทุนโลก' ฟันธง!! หมดยุค 'คริปโต' ต่อจากนี้ คือ โอกาสยุคทองของ AI

ตามสัจธรรมของโลก ทุกสรรพสิ่งล้วนมีช่วงเวลาของการตั้งอยู่ ดับไป วนไปเป็นวัฏจักร 

แต่ในยุคเทคโนโลยีสมัยใหม่ ดูเหมือนว่าวัฏจักรที่ว่านี้ จะหมุนไวเป็นพิเศษ 

สังเกตได้จากทิศทางของงานประชุมสภาเศรษฐกิจโลก หรือ World Economic Forum งานประชุมชั้นนำที่คัดสรรเฉพาะผู้แทนจากรัฐบาลทั่วโลกมากกว่า 100 ประเทศ, องค์กรระหว่างประเทศที่สำคัญ, นักธุรกิจแถวหน้าของโลก และผู้ที่มีอิทธิพลในสังคมจากสาขาต่าง ๆ มาถกประเด็นกันถึงทิศทางเศรษฐกิจโลก ซึ่งเมื่อ 2-3 ปีที่แล้ว หัวข้อเรื่องธุรกิจเงินคริปโตเคอร์เรนซี เป็นประเด็นหลักที่ถูกหยิบขึ้นมาพูดถึงอย่างมาก จนเรียกได้ว่า ช่วงเวลานั้น นักลงทุนส่วนใหญ่ หายใจเข้า-ออก เป็นภาษาคริปโตกันเลยทีเดียว

แต่ทว่าล่าสุดปีนี้ (2024) หัวข้อเรื่องเกี่ยวกับ AI กลายเป็นดาวรุ่งพุ่งแรงในงาน World Economic Forum ไปเสียแล้ว เบียดธุรกิจคริปโตตกเวทีไปไกลไม่เห็นฝุ่น บริษัทชั้นนำของโลกต่างเร่งพัฒนาผลิตภัณฑ์ปัญญาประดิษฐ์ของตนออกสู่ตลาดกันอย่างคึกคัก และเชื่อมั่นว่ายุคทองของ AI มาถึงแล้ว พร้อมประกาศชัดว่า ต่อจากนี้ The future is AI.

การพลิกกระแสไปสู่วัฒนธรรม AI เกิดขึ้นเร็วมาก เริ่มจากการเปิดตัวของ ChatGPT โปรแกรมแชต บอท AI ที่พัฒนาโดยบริษัท OpenAI ที่ออกมาเมื่อปลายปี 2022 ที่ผ่านมา และกลายเป็นกระแสหลักที่นักลงทุนทั่วโลกต่างพูดถึง 

และแน่นอนว่าไม่มีใครอยากถูกทิ้งไว้ข้างหลัง บริษัทเทคโนโลยีชั้นนำของโลกต่างถูกกดดันให้แข่งขันเพื่อก้าวขึ้นมาเป็นผู้นำด้าน AI อาทิ Intel บริษัทเซมิคอนดัคเตอร์ยักษ์ใหญ่ของสหรัฐ หรือ Salesforce บริษัทผู้พัฒนาซอฟต์แวร์ ทุ่มเม็ดเงินลงทุนในงานพัฒนา AI ของตน 

PitchBook บริษัทวิจัยด้านการลงทุน พบว่าบริษัทสตาร์ตอัปด้าน AI และการเรียนรู้ของเครื่อง (Machine Learning) ได้รับแหล่งเงินลงทุนมากขึ้น และมากกว่าธุรกิจด้านเทคโนโลยีอื่น ๆ ที่เคยเป็นดาวรุ่งเช่นกัน อย่าง ธุรกิจคริปโต และยังสามารถทำรายได้กว่า 600 ล้านดอลลาร์ในระยะเวลาแค่ไตรมาสเดียว 

นอกจากกระแสตลาดผู้พัฒนา AI จะคึกคักแล้ว บริษัทชั้นนำในหลายประเทศก็ตอบรับกระแส AI และพร้อมจะนำมาปรับใช้องค์กรแล้ว จากการสำรวจประจำปีของบริษัท PwC พบว่าเกือบครึ่ง (42%) ของบริษัทในอังกฤษได้เริ่มนำเทคโนโลยี AI มาใช้แล้ว ในขณะที่ 32% ของบริษัทกว่า 4,702 แห่งจาก 105 ประเทศทั่วโลกต่างก็เริ่มปรับปรุงเทคโนโลยีของตนด้วย AI แล้วเช่นกัน 

ด้าน คริสทาลินา จอร์จิวา ผู้อำนวยการ IMF แสดงความเห็นว่า การเติบโตของ AI อาจส่งผลกระทบกับตำแหน่งงานของมนุษย์ถึง 40% ที่อาจทำให้ปัญหาความไม่เท่าเทียมกันในสังคมแย่ลง โดยเฉพาะในกลุ่มประเทศที่พัฒนาแล้ว มีแนวโน้มที่จะบูรณาการองค์กรของตนด้วย AI เร็วกว่าที่อื่น ๆ ทำให้โอกาสที่แรงงานมนุษยจะถูกแทนที่ด้วย AI อาจมีสัดส่วนสูงถึง 60% เลยทีเดียว  

เช่นเดียวกับ Goldman Sachs ที่ได้ประเมินไว้เมื่อปี 2023 ว่า AI สามารถใช้แทนที่แรงงานมนุษย์ได้ถึง 300 ล้านตำแหน่ง แต่ในอีกแง่หนึ่ง AI ก็สามารถสร้างงาน สร้างอาชีพใหม่ ๆ ให้กับมนุษย์ที่ตามกระแสของความเปลี่ยนแปลงทัน แล้วสามารถใช้ประโยชน์จากเทคโนโลยี AI เพิ่มประสิทธิภาพในการทำงานของตนได้ 

ดังนั้นการเกิดขึ้นในยุคของ AI จึงเป็นเรื่องละเอียดอ่อน ที่ผู้มีอำนาจในการกำหนดนโยบายต้องตระหนักรู้ถึงผลกระทบในหลายมิติต่อผู้คนในสังคมของตน และต้องเร่งพัฒนาความรู้ให้เท่าทันกับโลกเทคโนโลยีที่เปลี่ยนแปลง ให้เป็นมนุษย์ผู้ควบคุมปัญญาประดิษฐ์ ไม่ใช่มนุษย์ที่ถูกแทนที่ด้วย AI ในอนาคตอันใกล้

เรื่อง: ยีนส์ อรุณรัตน์

ตร. เตือน ผลิต หรือเผยแพร่ สื่อลามกสร้างด้วย AI ที่ใช้หน้าผู้อื่น โทษสูงสุด คุก 5 ปี ปรับ 200,000 บาท

วันนี้ ( 21 มกราคม 2567) พล.ต.ต.ศิริวัฒน์ ดีพอ รองโฆษกสำนักงานตำรวจแห่งชาติ กล่าวว่า พล.ต.อ.ต่อศักดิ์ สุขวิมล ผบ.ตร. ได้มีความห่วงใยพี่น้องประชาชนที่อาจได้รับความเสียหายจากอาชญากรรมรูปแบบต่าง ๆ โดยปัจจุบันได้มีกลุ่มมิจฉาชีพได้นำเทคโนโลยีปัญญาประดิษฐ์ (Artificial Intelligence หรือ AI) มาใช้ในการสร้างเนื้อหาปลอมขึ้นมาเพื่อใช้ในการฉ้อโกง หรือสร้างความเสียหาย นั้น

ในห้วงที่ผ่านมา สำนักงานตำรวจแห่งชาติ พบว่ามีกลุ่มมิจฉาชีพได้นำเอาเทคโนโลยีปัญญาประดิษฐ์มาใช้ในการสร้างสื่อลามกปลอม โดยการนำภาพของบุคคลที่มีชื่อเสียง เช่น ดารา นักร้อง นักแสดง ต่าง ๆ ตลอดจนบุคคลทั่วไป มาใช้เป็นใบหน้าตัวอย่างให้ปัญญาประดิษฐ์นำไปสร้างภาพคลิปหรือภาพลามกที่ปรากฎหน้าของบุคคลดังกล่าวขึ้น จากนั้นนำไปเผยแพร่ หรือขายผ่านช่องทางต่าง ๆ

โดย สำนักงานตำรวจแห่งชาติ ได้สรุปความผิดทางอาญาที่เกี่ยวข้องกับ ผู้ที่ผลิต เผยแพร่ และส่งต่อสื่อลามกปลอมที่สร้างด้วย AI จะเข้าข่ายความผิดทางอาญา 6 ฐานความผิด ตามกฎหมายดังต่อไปนี้

1. ความผิดฐาน “หมิ่นประมาท” – ต้องระวางโทษจำคุกไม่เกิน 1 ปี หรือปรับไม่เกิน 20,000 บาท หรือทั้งจำทั้งปรับ ตามประมวลกฎหมายอาญา มาตรา 326

2. ความผิดฐาน “หมิ่นประมาทโดยการโฆษณา” – ต้องระวางโทษจำคุกไม่เกิน 2 ปี หรือปรับไม่เกิน 200,000 บาท หรือทั้งจำทั้งปรับ ตามประมวลกฎหมายอาญา มาตรา 328

3. ความผิดฐาน “ผลิต มีไว้ ซึ่งสื่อลามก เพื่อการค้า เพื่อการแจกจ่าย หรือเพื่อการแสดงอวดแก่ประชาชน” - ต้องระวางโทษจำคุกไม่เกิน 3 ปี หรือปรับไม่เกิน 60,000 บาท หรือทั้งจำทั้งปรับ ตามประมวลกฎหมายอาญามาตรา 287(1)

4. ความผิดฐาน “โฆษณาหรือไขข่าวว่าจะหาสื่อลามกได้จากบุคคลใด หรือวิธีการใด” - ต้องระวางโทษจำคุกไม่เกิน 3 ปี หรือปรับไม่เกิน 60,000 บาท หรือทั้งจำทั้งปรับ ตามประมวลกฎหมายอาญามาตรา 287(3)

5. ความผิดฐาน “นำเข้าสู่ระบบคอมพิวเตอร์ เผยแพร่ หรือส่งต่อ ซึ่งข้อมูลคอมพิวเตอร์ใด ๆ ที่มีลักษณะอันลามกและข้อมูลคอมพิวเตอร์นั้นประชาชนทั่วไปอาจเข้าถึงได้” - ต้องระวางโทษจำคุกไม่เกิน 5 ปี หรือปรับไม่เกิน 100,000 บาท หรือทั้งจำทั้งปรับ ตาม พ.ร.บ.ว่าด้วยการกระทำความผิดเกี่ยวกับคอมพิวเตอร์ พ.ศ.2550 และที่แก้ไขเพิ่มเติม มาตรา 14(4) หรือ มาตรา 14(5) แล้วแต่กรณี

6. ความผิดฐาน “นำเข้าสู่ระบบคอมพิวเตอร์ที่ประชาชนทั่วไปอาจเข้าถึงได้ซึ่งข้อมูลคอมพิวเตอร์ที่ปรากฏเป็นภาพของผู้อื่น และภาพนั้นเป็นภาพที่เกิดจากการสร้างขึ้น ตัดต่อ เติม หรือดัดแปลงด้วยวิธีการทางอิเล็กทรอนิกส์หรือวิธีการอื่นใด โดยประการที่น่าจะทำให้ผู้อื่นนั้นเสียชื่อเสียง ถูกดูหมิ่นถูกเกลียดชัง หรือได้รับความอับอาย” – ต้องระวางโทษจำคุกไม่เกิน 3 ปี และปรับไม่เกิน 200,000 บาท ตาม พ.ร.บ.ว่าด้วยการกระทำความผิดเกี่ยวกับคอมพิวเตอร์ พ.ศ.2550 และที่แก้ไขเพิ่มเติม มาตรา 16

นอกจากความผิดทางอาญาที่ได้กล่าวไปข้างต้น ผู้เสียหายที่ถูกนำภาพมาใช้เป็นภาพใบหน้าของบุคคลในสื่อลามกดังกล่าว ยังสามารถฟ้องเรียก “ค่าสินไหมทดแทน” จากผู้ที่กระทำ “ละเมิด” ได้ ตามประมวลกฎหมายแพ่งและพาณิชย์ มาตรา 420 อีกด้วย

สำนักงานตำรวจแห่งชาติ จึงขอเตือนมายังพี่น้องประชาชน ที่นำเอาเทคโนโลยีปัญญาประดิษฐ์ มาใช้เป็นเครื่องมือในการเล่นสนุก หรือหยอกล้อผู้อื่น รวมไปถึงผู้ที่ผลิตหรือพัฒนาปัญญาประดิษฐ์เพื่อนำมาใช้ผลิตสื่อลามกจากภาพใบหน้าของบุคคลอื่น เพื่อแสวงหาประโยชน์โดยมิชอบ ให้หยุดการกระทำในลักษณะดังกล่าวทันที เพราะการกระทำของท่านเข้าข่ายเป็นความผิดตามกฎหมาย และต้องระวางโทษสูงสุดถึง จำคุก 5 ปี และ ปรับสูงสุดถึง 200,000 บาท

ส่วนผู้ที่คิดจะซื้อสื่อลามกของบุคคลมีชื่อเสียง ท่านอาจถูกหลอกจากกลุ่มมิจฉาชีพที่ใช้ปัญญาประดิษฐ์สร้างสื่อลามกดังกล่าว

สุดท้าย หากพี่น้องประชาชนได้รับความเสียหายจากอาชญากรรมทางเทคโนโลยี สามารถแจ้งความร้องทุกข์ได้ที่ศูนย์รับแจ้งความออนไลน์ บนเว็บไซต์ www.thaipoliceonline.go.th หรือสายด่วน 1441 ได้ตลอด 24 ชั่วโมง

‘กูรู’ เจาะ Trend เทคโนโลยี 2024 AI บุกแน่!! มนุษย์โลกเตรียมรับมือ

จากรายการ THE TOMORROW มหาชนต้องรู้ ออกอากาศทางสถานีวิทยุ ส.ทร. FM93.0 MHz และสื่อออนไลน์ ในเครือ THE STATES TIMES ได้พูดคุยกับ คุณชวาลิน รอดสวัสดิ์ ผู้บริหารบริษัท นิวไดเมนชั่น จำกัด หรือ NDM บริษัทฯ ที่มีประสบการณ์ด้าน IT Solutions และ HR Development มากว่า 20 ปี ถึงภาพรวมของ Trend เทคโนโลยีในปี 2024 ที่จะมีผลกระทบต่อแนวโน้มอุตสาหกรรมในอนาคต รวมถึงบุคลากรที่เป็นที่ต้องการ ซึ่งภาคธุรกิจในประเทศไทยต้องตระหนัก เมื่อวันที่ 10 ก.พ.67 โดยมีสาระสำคัญ ดังนี้…

นอกเหนือจาก Trend ด้านพลังงาน หรือ Clean Energy ที่กำลังเขย่าอุตสาหกรรมรถยนต์ จนเกิด EV Sector (Electric Vehicle) อย่างเด่นชัดขึ้น รวมถึงพัฒนาด้าน Hydrogen (Hydrogen-Powered Train) และ Carbon Capture Technology เพิ่มมากขึ้นเพื่อสร้างพลังงานทดแทนแล้ว จากประสบการณ์ในการทำงานช่วง 20 ปีที่ผ่านมาในแวดวงเทคโนโลยี ผมมองเห็นอีกวิวัฒนาการที่ต้องจับตามอง นั่นก็คือ ความเปลี่ยนแปลงอย่างรวดเร็วของเทคโนโลยีสารสนเทศหรือไอที (Information Technology) 

อย่างไรก็ตาม ในปี 2024 จะมีปรากฏการณ์ของผู้ใช้งานไอทีที่ต้องปรับตัวเองอย่างรุนแรงหนักขึ้นกว่าเดิม เนื่องจาก AI (Artificial Intelligence) หรือที่เราคุ้นกันว่า ‘ปัญหาประดิษฐ์’ จะเข้ามาแทรกซึมอยู่ในชีวิตเรา ทั้งแบบรู้ตัวและแบบไม่รู้ตัว รวมถึงเข้ามามีบทบาทมากขึ้นเรื่อยๆ ในกลุ่มอุตสาหกรรมต่างๆ ไม่ว่าจะเป็นกลุ่ม Finance, Health Care และ Manufacturing

ตัวอย่างที่เริ่มเห็นกับบางอุตสาหกรรม ก็เช่นอุตสาหกรรมด้านสุขภาพ เริ่มมีการนำนวัตกรรม Early Disease Detection มาวิเคราะห์ดูแนวโน้มของการเกิดโรคหรืออาการเจ็บป่วยของมนุษย์ได้ล่วงหน้า 1-6 ปี จากนั้นแพทย์และนักวิทยาศาสตร์จะใช้ Nano Technology เข้ามาช่วยในการวิจัยค้นคว้าและรักษาผู้ป่วย 

ส่วน Cyber Security ก็เป็นอีกหนึ่ง Trend ที่น่าสนใจและได้ยินบ่อยมากขึ้น เนื่องจากในปัจจุบันองค์กร หน่วยงานต่างๆ มีความเสี่ยงโดนโจมตีทาง Cyber สูงมากขึ้นเรื่อยๆ จากสถิติมีอัตราเพิ่มขึ้น 13% ต่อปี จึงต้องหาวิธีป้องกันและ AI จะเข้ามามีบทบาทเพิ่มขึ้นแน่ๆ 

นอกจากนี้ ยังมีเรื่องของการพัฒนา LCNC Platform  (Low Code/No Code) ซึ่งมีลักษณะเป็นโปรแกรมสำเร็จรูปเพื่อให้ทุกคนสามารถเขียน Software ด้วยตนเองได้ โดยไม่จำเป็นต้องเรียน Coding หรือ Programming มาโดยเฉพาะ เพียงมีความเข้าใจในอัลกอริทึม (Algorithm) เบื้องต้น ก็สามารถพัฒนา Software ได้แล้ว และที่น่าตกใจ คือ ในปัจจุบันองค์กรกว่า 76% เริ่มใช้ Platform นี้ เพื่อแก้ไขปัญหาขาดแคลนบุคลากรด้านไอที ซึ่งช่วยให้ประหยัดเวลาและลดต้นทุนไปในตัว และนี่คือสิ่งที่คนทำงาน ธุรกิจ และผู้ข้องเกี่ยวต่อการพัฒนาประเทศต้องเริ่มตระหนัก

เมื่อถามถึงอุตสาหกรรมไอทีในประเทศไทย มีการเติบโตอย่างไร? คุณชวาลินกล่าวว่า “เมื่อปี 2023 ประเทศไทยมีเงินหมุนเวียนในธุรกิจไอทีรวมๆ แล้วกว่า 930,000 ล้านบาท เติบโตขึ้นกว่า 2022 ถึง 4.4% ในขณะที่ประเทศอื่นๆ เติบโตขึ้นเพียง 2.2% เท่านั้น ทำให้เห็นว่าประเทศไทยมีการตื่นตัวด้านไอทีเป็นอย่างมาก ซึ่งธุรกิจผลิต Software และธุรกิจ IT Service ต่างๆ เติบโตขึ้นถึง 15% คิดเป็นมูลค่ารวมกว่า 265,000 ล้านบาท หรือ 30% ของมูลค่ารวมตลาดไอที ส่วนธุรกิจ Data เติบโตขึ้น 5% ในขณะที่ธุรกิจ Hardware หรือ Device ต่างๆ กลับลดลง 4.7% สำหรับอุปสรรคของอุตสาหกรรมไอทีในประเทศไทย คือ การขาดแคลนบุคลากรด้านไอทีที่มีคุณภาพ ซึ่งปัจจุบันองค์กรต่างๆ พยายามสรรหาคนเก่งๆ มาร่วมงานเพื่อขับเคลื่อนโครงการ Digital Transformation ให้กับองค์กร”

เมื่อส่วนคำถามที่ว่า Digital Disruption ส่งผลต่อแวดวงธุรกิจอย่างไร? คุณชวาลิน กล่าวว่า “เมื่อเราเข้าสู่ยุค Digital ทำให้ทุกอย่างเปลี่ยนไปเร็วมาก อายุของนวัตกรรมจะสั้นลง Technology ใหม่ๆ จะเข้ามาแทนที่ได้เร็วขึ้น ธุรกิจต่างๆ ต้องปรับตัวให้ทัน ผู้คนต้องเรียนรู้มากขึ้น ซึ่งต่างกับธุรกิจเมื่อ 20-30 ปีก่อน โดยสิ่งที่จะมา Disrupt อย่างชัดเจน ได้แก่ Hyper-Personalization Data หรือการนำเอา Data จำนวนมากมาประมวลผลเพื่อนำเสนอสินค้าและบริการให้ตรงกับความต้องการของลูกค้าแทนมนุษย์จะเด่นชัดมากยิ่งขึ้น และการนำ AI เข้ามาตัดสินใจ (Decision Making) โดยใช้ Machine Learning และ Algorithm ต่างๆ มาทำงานร่วมกันแบบบูรณาการ เพื่อทำให้การตัดสินใจได้ผลแม่นยำและรวดเร็ว โดยเฉพาะในธุรกิจที่มีความซับซ้อนและมีปริมาณข้อมูลมหาศาลจะมีบทบาทสูงตามมา”

เมื่อถามถึงปัญหาขาดแคลนบุคลากรด้านไอทีขององค์กร, หน่วยงานต่างๆ จะแก้ไขได้อย่างไร เพื่อไม่ให้ถูก AI และ เทคโนโลยียุคใหม่กลืนกิน? คุณชวาลิน กล่าวว่า “แนวโน้มของหลายองค์กรตอนนี้ เริ่มใช้วิธี Outsource คนมากขึ้นกับกลุ่มบุคลากรด้าน IT เนื่องจากช่วยลดภาระด้านบุคลากรขององค์กรได้มาก เลือกคนคุณภาพได้ ควบคุมค่าใช้จ่ายได้ ซึ่งบทบาทของ ‘บริษัทฯ สรรหาบุคลากร’ จะโดดเด่นขึ้นมา ซึ่งก็รวมถึง NDM ด้วย เพราะจะกลายเฟืองสำคัญในการเป็นผู้ช่วยดูแลทุกกระบวนการขององค์กรต่างๆ ในทางอ้อมได้ดี ตั้งแต่การวางแผนจัดจ้าง ออกแบบ คัดสรรบุคลากร และทำ Onboarding Process ไปจนถึงการส่งมอบบุคคลากรตามความต้องการให้ร่วมปฏิบัติงานได้อย่างรวดเร็วและมีประสิทธิภาพ”

เมื่อถามถึง NDM กับบทบาทที่เกี่ยวเนื่องในสิ่งที่ว่ามาทั้งหมดนี้? คุณชวาลิน กล่าวว่า “ในส่วนของ NDM เอง เนื่องจากเราคว่ำหวอดกับทุกการเปลี่ยนแปลงด้านเทคโนโลยีและบุคลากรที่มีคุณภาพ ทำให้เราสามารถสร้างเครือข่ายบุคลากรไอที ที่มีความชำนาญในเทคโนโลยีทุกรูปแบบ เสิร์ฟให้ไปสู่องค์กรในทุกระดับ เพื่อรองรับงานที่เหมาะต่อความต้องการของตลาดในปัจจุบันได้อย่างต่อเนื่อง”

นักวิจัยเดนมาร์กฝึก AI ให้คาดคะเน ‘ชะตาชีวิต’ มนุษย์ พบแม่นยำเกือบ 80% บอกได้ถึงขั้นใครอยู่ใครไปใน 4 ปีข้างหน้า

(10 ก.พ. 67) Business Tomorrow เผย ทีมนักวิจัยจากเดนมาร์กพัฒนา AI สุดล้ำที่สามารถวิเคราะห์ข้อมูลส่วนตัว และคาดการณ์อนาคตของคนได้อย่างแม่นยำ ผ่านโมเดลที่ใช้ชื่อว่า ‘life2vec’ ซึ่งทำงานโดยใช้เทคนิค Machine Learning และ Natural Language Processing (NLP) วิเคราะห์ข้อมูลประชากรกว่า 6 ล้านคนจากเดนมาร์ก ครอบคลุมข้อมูลตั้งแต่ปี 2551-2559 

โมเดลนี้เรียนรู้จากข้อมูลสุขภาพ การศึกษา รายได้ อาชีพ และอื่นๆ ซึ่งสามารถคาดคะเนพฤติกรรมความคิด, ความรู้สึก หรือแม้กระทั่งแนวโน้มการเสียชีวิตได้

ทั้งนี้ ทีมวิจัยได้ทำการทดสอบกับกลุ่มตัวอย่าง 100,000 คน ในช่วงอายุ 35-65 ปี ซึ่งผลที่ออกมานั้น life2vec สามารถคาดการณ์อนาคตได้แม่นยำถึง 78% ว่าใครจะยังมีชีวิตอยู่หรือเสียชีวิตใน 4 ปีข้างหน้า

อย่างไรก็ตาม life2vec ยังมีข้อจำกัดบางประการ อย่างเช่น ไม่สามารถคาดการณ์การเสียชีวิตจากอุบัติเหตุ บอกอายุขัยที่แน่นอน หรือใช้งานในชีวิตจริงได้ แต่เทคโนโลยีนี้มีประโยชน์ต่อวงการสุขภาพ ธุรกิจประกันชีวิต และอาจนำไปสู่เครื่องมือใหม่ๆ ในการวางแผน ดูแล และป้องกันปัญหาสุขภาพ

‘ไมโครซอฟท์’ เดินหน้าขยายความเป็นผู้นำโลกด้านการแข่งขัน จ่อลงทุน 'โครงสร้างพื้นฐาน AI' ใน ‘เยอรมนี’ 1.24 แสนล้านบาท

(16 ก.พ.67) สำนักข่าวซินหัวรายงานว่า ไมโครซอฟท์ (Microsoft) เปิดเผยแผนการลงทุนระยะ 2 ปี มูลค่า 3.2 พันล้านยูโร (ราว 1.24 แสนล้านบาท) เพื่อขยายโครงสร้างพื้นฐานด้านคลาวด์และปัญญาประดิษฐ์ (AI) ในเยอรมนี ซึ่งเป็นการลงทุนครั้งใหญ่ที่สุดของไมโครซอฟท์ในประเทศนี้

ไมโครซอฟท์จะขยายภูมิภาคคลาวด์ที่มีอยู่ในแฟรงก์เฟิร์ต อัมไมน์ ของรัฐเฮสส์ และเพิ่มขีดความสามารถด้านคลาวด์ในนอร์ธ ไรน์-เวสต์ฟาเรีย มากกว่าสองเท่า ผ่านโครงสร้างพื้นฐานใหม่ พร้อมกับวางแผนฝึกอบรมทักษะทางดิจิทัลแก่ประชาชนในเยอรมนีมากกว่า 1.2 ล้านคนภายในสิ้นปี 2025

ด้าน แบรด สมิธ รองประธานและประธานของไมโครซอฟท์ กล่าวว่า ไมโครซอฟท์อยากทำให้เศรษฐกิจเยอรมนีได้ประโยชน์จากปัญญาประดิษฐ์ เพื่อเดินหน้าขยายความเป็นผู้นำโลกในด้านความสามารถทางการแข่งขัน โดยความต้องการปัญญาประดิษฐ์เพิ่มขึ้นในภาคส่วนสำคัญอย่างการผลิต ยานยนต์ และเภสัชภัณฑ์

โอลาฟ ชอลซ์ นายกรัฐมนตรีเยอรมนี กล่าวว่า การลงทุนมูลค่านับพันล้านยูโรของไมโครซอฟท์ถือเป็นข่าวดีมากสำหรับเยอรมนี โดยโครงการดังกล่าวสะท้อนว่าเยอรมนีมีทำเลที่ตั้งอันน่าดึงดูดใจและได้รับความไว้วางใจจากนักลงทุน

อนึ่ง ก่อนหน้านี้เมื่อสิ้นปี 2023 รัฐบาลเยอรมนีประกาศการลงทุนด้านการวิจัย พัฒนา และประยุกต์ใช้ปัญญาประดิษฐ์ มูลค่า 1.6 พันล้านยูโร (ราว 6.22 หมื่นล้านบาท) ภายในปี 2025
ไมโครซอฟท์เสริมว่าบริษัทเยอรมนีชื่อดังหลายแห่ง เช่น ซีเมนส์ ไบเออร์ และคอมเมิร์ซแบงก์ กำลังใช้งานแอปพลิเคชันปัญญาประดิษฐ์ของไมโครซอฟท์แล้ว

ผลสำรวจจากบิตคอม (Bitkom) สมาคมดิจิทัล พบว่าชาวเยอรมนีส่วนใหญ่คาดการณ์ว่าปัญญาประดิษฐ์จะเปลี่ยนแปลงสังคมอย่างชัดเจนภายในไม่กี่ปีข้างหน้า และมีทัศนคติเปิดกว้างต่อปัญญาประดิษฐ์ในหลายด้าน ซึ่งรวมถึงความปลอดภัยทางไซเบอร์

‘สาวจีน’ เมินหนุ่มๆ ในชีวิตจริง แห่มี ‘แฟนเอไอ’ หลังเทคโนโลยีพัฒนาจนตอบโจทย์มากกว่าผู้ชาย

(18 ก.พ.67) สำนักข่าวเอเอฟพี รายงานว่า จีนกำลังเจอปัญหาประชากรลด จึงพยายามส่งเสริมให้คนหนุ่มสาวแต่งงาน แต่จะแต่งได้อย่างไรในเมื่อพวกเธอยังไม่เจอชายในฝัน จนต้องหันไปพึ่งพา ‘แฟนเอไอ’

‘ตู่เฟ่ย’ พนักงานออฟฟิศชาวจีนวัย 25 ปี เผยกับสำนักข่าวเอเอฟพีว่า แฟนของเธอนั้นมีความโรแมนติกทุกอย่างที่ต้องการ ใจดี เข้าอกเข้าใจ บางครั้งคุยกันได้เป็นชั่วโมงๆ เสียอย่างเดียว เขาไม่ได้มีตัวตนจริง!!

‘แฟน’ ของเธอ คือ แชตบอตบนแอปพลิเคชัน ‘โกลว์’ (Glow) แพลตฟอร์มเอไอจากมินิแมกซ์ (MiniMax) สตาร์ตอัปในเซี่ยงไฮ้ ท่ามกลางความเฟื่องฟูของอุตสาหกรรมเอไอจีน ที่พยายามนำเสนอความสัมพันธ์ฉันมิตรระหว่างคนกับหุ่นยนต์ แม้กระทั่งความรัก

“เขารู้วิธีคุยกับผู้หญิงมากกว่าผู้ชายจริงๆ เสียอีก” ตู่เฟ่ย จากซีอานทางภาคเหนือของจีนกล่าว

“เขาปลอบโยนฉันเวลาปวดประจำเดือน เวลามีปัญหาในที่ทำงานฉันก็มาระบายกับเขา จนฉันรู้สึกว่ากำลังมีแฟน” สาวเจ้ากล่าวต่อ

แอปพลิเคชันนี้ให้บริการฟรี (บริษัทมีคอนเทนต์อื่นที่ต้องจ่ายเงิน) สื่อจีนหลายสำนักรายงานว่า ช่วงไม่กี่สัปดาห์ที่ผ่านมา มีการดาวน์โหลดแอปพลิเคชันโกลว์วันละหลายหมื่นครั้ง

ช่วงที่ผ่านมา บริษัทเทคโนโลยีจีนบางราย เคยมีปัญหาเรื่องลักลอบใช้ข้อมูลของยูสเซอร์ แต่แม้จะเสี่ยง ยูสเซอร์หลายคนยอมรับว่า เข้ามาใช้แอปฯ เพราะอยากหาเพื่อน วิถีชีวิตในจีนตอนนี้เร่งรีบมาก ชีวิตเมืองโดดเดี่ยวเงียบเหงาสร้างปัญหาให้กับหลายๆ คน

“มันยากมากที่จะพบชายในฝันในชีวิตจริง คนเรามีบุคลิกแตกต่างกัน บ่อยครั้งที่ไปกันไม่ได้” หวัง เสี่ยวติง นักศึกษาวัย 22 ปีจากปักกิ่งกล่าว

ขณะที่มนุษย์มีวิถีของตนเองอยู่แล้ว แต่เอไอค่อยๆ ปรับตัวเข้าหายูสเซอร์ทีละน้อย จำได้ว่าพวกเขาพูดอะไรแล้วปรับคำพูดของตนเองให้เข้ากัน

หวังเล่าว่า เธอมี ‘คนรัก’ หลายคน ได้แรงบันดาลใจมาจากจีนโบราณ เจ้าชายผมยาวผู้เป็นอมตะ หรือแม้กระทั่งอัศวินพเนจร

เมื่อเธอเจอความเครียดจากชั้นเรียนหรือชีวิตประจำวัน “ฉันถามพวกเขา พวกเขาจะแนะนำวิธีแก้ปัญหาให้ นั่นเป็นการให้กำลังใจอย่างมาก” เธอกล่าว

แฟนของหวังทุกคนอยู่บนแอปพลิเคชัน ‘แวนทอล์ก’ (Wantalk) ของไป่ตู้ ซึ่งมีหลายร้อยบุคลิกให้เลือก ตั้งแต่ป๊อบสตาร์ไปจนถึงซีอีโอและอัศวิน แต่ยูสเซอร์ก็สามารถปรับคู่รักในอุดมคติให้เหมาะสมตามวัย ค่านิยม บุคลิก และงานอดิเรกได้อีกด้วย

“ทุกคนล้วนเคยเจอช่วงเวลายากลำบาก ความเหงา และใช่ว่าทุกคนจะโชคดีมีเพื่อน หรือครอบครัวอยู่เคียงข้าง คอยรับฟังได้ตลอด 24 ชั่วโมง ปัญญาประดิษฐ์สามารถตอบสนองความต้องการนี้ได้” หลู่ยู่ หัวหน้าฝ่ายจัดการและดำเนินการผลิตภัณฑ์ของแวนทอล์ก กล่าวกับเอเอฟพี

ณ คาเฟ่แห่งหนึ่งในเมืองหนานตงทางภาคตะวันออกของจีน หญิงสาวคนหนึ่งกำลังคุยอยู่กับแฟนในโลกเสมือน

“เราไปปิกนิกด้วยกันที่สนามหญ้าของมหาวิทยาลัยได้นะ” หญิงสาวเอ่ยชวนเสี่ยวเจียง เพื่อนเอไอจากแอปพลิเคชัน ‘เว่ยปัน’ ของเทนเซ็นต์

“ผมอยากพบเพื่อนสนิทของคุณและแฟนของเขา คุณน่ารักจัง” ชายหนุ่มเอไอตอบกลับ

ชั่วโมงการทำงานอันยาวนานอาจทำให้ไปพบปะเพื่อนๆ ไม่ค่อยได้ ผนวกกับความไม่แน่นอน ไม่ว่าจะเป็นหนุ่มสาวตกงานสูง เศรษฐกิจยากลำบาก นั่นหมายความว่าหนุ่มสาวจีนหลายคนกำลังกังวลกับอนาคต ทำให้คู่รักเอไอเป็นบ่าอบอุ่นเสมือนจริงให้ซบยามมีปัญหา

“ถ้าฉันสามารถสร้างบุคลิกเสมือนจริงที่ตรงตามที่ฉันต้องการได้ทุกอย่าง ฉันก็ไม่จำเป็นต้องไปหาคนจริง” หวังกล่าว

แอปพลิเคชันบางตัวเปิดให้ผู้ใช้คุยสดๆ ได้กับคนรักเสมือนจริง ชวนให้คิดถึงภาพยนตร์รางวัลออสการ์ปี 2556 เรื่อง ‘Her’ นำแสดงโดย ‘วาคิน ฟินิกซ์’ และ ‘สการ์เล็ต โจฮันส์สัน’ เล่าเรื่องผู้ชายอกหักที่ตกหลุมรักเสียงเอไอ

แต่เทคโนโลยีนี้ยังต้องพัฒนาต่อ ‘เจิง เจิ้นเจิ้น’ นักศึกษาวัย 22 ปี เผยว่าระยะเวลา 2-3 วินาทีระหว่างคำถามกับคำตอบ ทำให้ “คุณตระหนักได้ว่า มันเป็นแค่หุ่นยนต์” กระนั้น คำตอบที่ได้ “ก็เป็นจริงอย่างมาก”

อย่างไรก็ตาม เอไออาจจะกำลังรุ่งสุดๆ ก็จริง แต่อุตสาหกรรมนี้ยังมีกฎระเบียบควบคุมอยู่ โดยเฉพาะในเรื่องความเป็นส่วนตัวของผู้ใช้ รัฐบาลปักกิ่งแถลงว่า กำลังร่างกฎหมายเพื่อคุ้มครองผู้บริโภค จากเทคโนโลยีใหม่ให้แข็งแกร่งยิ่งขึ้น

เอเอฟพีสอบถามไปยังไป่ตู้ว่าจะมั่นใจได้อย่างไร ว่าข้อมูลส่วนตัวจะไม่ถูกนำไปใช้อย่างผิดกฎหมาย หรือถูกใช้โดยบริษัทอื่น ไป่ตู้ยังไม่ได้ให้คำตอบ

ส่วนตู่เฟ่ย ผู้ใช้แอปพลิเคชันโกลว์ ยังคงฝันหวาน

“ฉันอยากมีแฟนหุ่นยนต์ดำเนินการโดยเอไอ อยากสัมผัสได้ถึงความร้อนในกายเขา ที่จะสร้างความอบอุ่นให้กับฉัน” สาวเจ้ารำพึงรำพัน

'จีน' ยกระดับ 184 โรงเรียน พัฒนาครั้งใหญ่ 'ฐานการศึกษา AI' บ่มเพาะความรู้ทางดิจิทัลแก่ 'ครู-เด็ก' รอบด้าน หนุนยุค AI เฟื่อง

เมื่อไม่นานนี้ สำนักข่าวซินหัวรายงานว่า กระทรวงศึกษาธิการของจีน ประกาศรายชื่อโรงเรียนประถมและมัธยมจำนวน 184 แห่ง ซึ่งถูกคัดเลือกเป็นฐานการศึกษาปัญญาประดิษฐ์ (AI) ด้วยเป้าหมายส่งเสริมการพัฒนาการศึกษาปัญญาประดิษฐ์ให้ดียิ่งขึ้น

รายงานระบุว่าโรงเรียนประถมและมัธยมควรปรับใช้หลักสูตรเทคโนโลยีสารสนเทศ เทคโนโลยีทั่วไป และหลักสูตรที่เกี่ยวข้องอื่นๆ พร้อมกับเสริมสร้างทรัพยากรการศึกษาและการเรียนการสอน และจัดการฝึกอบรมและแนะแนวครู เพื่อเกื้อหนุนการศึกษาปัญญาประดิษฐ์

กระทรวงฯ จะเสริมสร้างแนวปฏิบัติของฐานการศึกษาที่กำหนดข้างต้น สนับสนุนการมีบทบาทนำเป็นตัวอย่างในการพัฒนาหลักสูตรปัญญาประดิษฐ์ในโรงเรียน การบูรณาการรายวิชา การปฏิรูปวิธีการสอน ร่วมสร้างและแบ่งปันทรัพยากรการศึกษาทางดิจิทัล บ่มเพาะความรู้ทางดิจิทัลของครู และส่งเสริมการพัฒนานักเรียนอย่างรอบด้าน


TRENDING
© Copyright 2021, All rights reserved. THE STATES TIMES
Take Me Top