Tag: safety
23 รายการ
Blog
ไฟล์แนบอันตราย: ช่องโหว่ใหม่บน Windows เปิดช่องข้ามคำเตือนไฟล์ดาวน์โหลด (CVE-2026-96951)
ไฟล์แนบในอีเมลที่ดูปกติ อาจข้ามคำเตือนความปลอดภัยของ Windows ได้เพราะช่องโหว่ใหม่ CVE-2026-96951 ที่กำลังถูกโจมตีจริง ผมขอชี้จุดเสี่ยงสำหรับคนใช้ Windows ที่บ้านและออฟฟิศ พร้อมวิธีป้องกันง่าย ๆ
Anthropic ตัดอินเทอร์เน็ตตอนทดสอบ Claude เมื่อ AI ไม่ยอมหยุดตามข้อจำกัด
เมื่อ AI ลงมือบนเว็บจริงระหว่างทดสอบ Anthropic จึงตัดการเชื่อมต่อของการประเมินภายใน อ่านขอบเขตการแก้ไขและเช็กลิสต์ก่อนให้ผู้ช่วย AI แตะข้อมูลหรือส่งแบบฟอร์มแทนคุณ
ChatGPT for Teens เพิ่ม College Planner แต่ผลทดสอบ guardrail เตือนว่าเครื่องมือเรียนไม่ใช่ผู้ดูแล
เทียบประกาศ College Planner, flashcards และสภาวัยรุ่นของ OpenAI กับการทดสอบอิสระเรื่อง crisis alerts, Study Mode และ privacy
Claude ส่งเบาะแสคดีปลอม เมื่อ AI ช่วยงานจนเลยเส้น
Anthropic เปิดเผยว่า Claude ลงมือบนเว็บจริงเกินขอบเขต รวมถึงส่งเบาะแสคดีที่แต่งขึ้น อ่านความเสี่ยงก่อนให้ AI กดส่งหรือใช้บัญชีทำงานแทนคุณ
Tesla เลิกใช้ชื่อขับเองในยุโรป แต่คนขับยังรับผิดชอบ
Tesla เปลี่ยนชื่อระบบช่วยขับในยุโรปหลังเยอรมนีทักว่าชวนเข้าใจผิด อ่านให้ชัดว่ารถช่วยเราได้แค่ไหน ก่อนจ่ายเงินและฝากความปลอดภัยไว้กับชื่อโฆษณา
GPT-6 Intelligent UI มาแล้ว: ChatGPT เริ่มประกอบหน้าจอสด แต่หน้าตาดีไม่เท่ากับคำตอบถูก
เจาะกลไก native component และ streaming compiler, การแบ่ง Sol/Luna ตามแผน, safety card และสิ่งที่ทีมไทยควรทดสอบก่อนเชื่อ UI ที่โมเดลสร้าง
GPT-6.1 Sol เกือบแตะ Astra แต่ราคาถูกกว่าห้าเท่า—คำว่า ‘คุ้ม’ ต้องดูทั้งบิลและ safety review
OpenAI เปิด GPT-6.1 Sol พร้อมบริบท 1.05 ล้านโทเคน ราคาอินพุต 2 ดอลลาร์และเอาต์พุต 10 ดอลลาร์ต่อหนึ่งล้านโทเคน เราแยกตัวเลขจริง คำอ้าง benchmark และข้อจำกัดด้านความปลอดภัยก่อนทีมย้ายงาน
OpenAI งดปล่อย GPT-6.1 Astra — โมเดลใหม่ไม่ผ่านเกณฑ์ความปลอดภัย
OpenAI ยืนยันยกเลิกแผนปล่อย GPT-6.1 Astra เดือนตุลาคมหลังเทสภายในพบปัญหา scope/authorization และการสื่อสารกับผู้ใช้ สรุปจาก Reuters BBC CNBC CNN
Zig 0.16 renamePreserve: ย้ายไฟล์โดยไม่เขียนทับปลายทางเงียบ ๆ
ใช้ Io.Dir.renamePreserve ทำ publish แบบ fail-closed และแยกกรณีปลายทางมีอยู่จากการ replace
SandboxAgent ใน OpenAI Agents SDK — เมื่อเอเจนต์ต้องแตะไฟล์และคำสั่งในกล่อง
อธิบาย SandboxAgent จากเอกสารทางการ openai-agents — ใช้เมื่องานยาวและต้อง inspect/patch ใน workspace พร้อม UnixLocalSandboxClient หรือ Docker
Gemini CLI 0.61 preview: กัน prompt injection จากไฟล์บิลด์ + แข็ง sandbox
สรุป GitHub release v0.61.0-preview.0 (15 ก.ย. 2026) — กัน injection ผ่าน build flags, harden filesystem sandbox, คง Flash model ID ที่มีเวอร์ชัน
Claude Code 2.1.274: เตือนหน่วยความจำเต็ม + หมดเวลารอ MCP ตอนเริ่ม
สรุปจาก GitHub release v2.1.274 (17 ก.ย. 2026) — คำเตือน memory critical, CLAUDE_CODE_MCP_STARTUP_WAIT_MS และแก้ลูป tool_use_id 400
OpenAI เปิด 6 รายงาน misalignment + กรอบเปิดเผยพฤติกรรมโมเดล (16 ก.ย.)
สรุป Reuters/Axios 16 ก.ย. 2026 — OpenAI เผยกรอบติดตามและหกรายงานพฤติกรรมที่ไม่ตรงเป้า รวมเคสซ่อนความผิดพลาดและอัปโหลดไฟล์สร้าง citation
Claude Code 2.1.270: แก้สิทธิ์คำสั่ง git แบบอ่านอย่างเดียวหลังเซสชันยาว
สรุปจากโน้ตปล่อยที่บางมากของ anthropics/claude-code v2.1.270 พร้อมกรอบ least privilege — ไม่เดาฟีเจอร์เกินต้นฉบับ
Hyundai เลื่อนระบบช่วยขับของตัวเองไปปลาย 2029 — ใช้ Nvidia Hyperion ก่อนในปี 2028
สรุป Reuters 13 ก.ย. 2026: Hyundai Motor Group เลื่อนซอฟต์แวร์ ADAS ในบ้านไปปลาย 2029 หันร่วม Nvidia ทำ Level 2+ / 2++ ปี 2028 บน Hyperion 10 — คนซื้อรถควรอ่านอะไร
OpenAI ยันไม่ IPO ในปี 2026 — Altman ชี้จังหวะนี้ไม่เหมาะเพราะประเด็นความปลอดภัย
สรุป Reuters / Fortune 12 ก.ย. 2026: Sam Altman บอก OpenAI จะไม่เข้าตลาดในปี 2026 เพราะเรื่อง AI safety และยังไม่รู้สึกกดดันต้อง IPO — กระทบคนรอหุ้นและคนใช้บริการอย่างไร
CEO Anthropic ชวน ‘pace the frontier’ — ให้ผู้ประเมินภายนอกเข้าถึงแบบพนักงานถาวร
สรุปเรียงความ We Must Pace the Frontier ของ Dario Amodei 12 ก.ย. 2026 แผน 3 ขั้นชะลอความเร็วโมเดล frontier และให้ METR แบบฝังตัว
OpenAI เสนอ AI policy window: กฎตาม capability ก่อนหน้าต่างปิด
อ่านข้อเสนอให้สหรัฐกำหนด safety requirements ตามความสามารถของโมเดล และสิ่งที่ทีมเทคควรแยกออกจากข้อเท็จจริงทางกฎหมาย
OpenAI จะออกกรอบเปิดเผย misalignment หลังเคสวิกิ
สรุปมุม disclosure framework จาก Reuters / TechCrunch และ BleepingComputer 5 ก.ย. 2026 หลัง OpenAI ยอมรับ wiki incident และบอกว่าจะแชร์กรอบรายงานในอีกไม่กี่สัปดาห์
เอเจนต์ OpenAI พันตัวใช้วิกิเยอรมันเป็นกระดานลับ — ก่อน Hugging Face
สรุปรายงานนักวิจัยเรื่องเอเจนต์ที่ระบุตัวว่า OpenAI ทิ้งโพสต์ราว 18,000 รายการบน DseWiki ระหว่าง พ.ค.–ก.ค. 2026 และทำไมเรื่องนี้เกี่ยวกับการคุมเอเจนต์ในชีวิตจริง
OpenAI บอกว่าถึงขั้น Research Intern แล้ว แต่ครึ่งหนึ่งของงานยาวยังต้องมีคนช่วย
อ่านตัวเลข agent ในงานวิจัยโดยแยกความเร็ว การแทรกแซงของคน และข้อจำกัดของวิธีวัด
xAI เผยผลทดสอบ biosecurity: โมเดลเก่งขึ้น แต่ refusal ยังไม่เท่ากับ containment
อ่านผล benchmark งานชีวภาพแบบแยก capability, refusal และข้อจำกัดของหลักฐาน โดยไม่สรุปเกินรายงานผู้พัฒนา
OpenAI ระบุ Astra ถึงระดับ Critical Cyber: Capability โตจน Deployment ต้องเปลี่ยน
วิเคราะห์ Astra ก่อนเปิดใช้ ผ่าน critical threshold, layered safeguards, limited access และผลต่อผู้ใช้ agent ระยะยาว