การสร้างเครื่องแปลภาษาเป็นโจทย์ classic ของ NLP และสามารถนำไปใช้ประโยชน์ได้โดยตรงโดยตัวของมันเอง โจทย์นี้จัดว่าเป็นโจทย์ที่ยากที่สุดของ NLP เพราะต้องอาศัยความเข้าใจของภาษาในระดับที่ลึกซึ้งทำให้โมเดลที่ต้องใช้ต้องมีความซับซ้อนตามไปด้วย
ปัจจุบันเราไม่ใช้ Statistical Machine Translation (SMT) แต่ไอเดียหลักๆ ของ SMT นั้นยังคงเป็นหลักการสำคัญ ๆ ในการสร้างโมเดลสมัยใหม่อย่าง Neural Machine Translation (NMT)
การเรียนโมดูลนี้จำเป็นต้องเข้าใจ Language Modeling
Decoding เป็นกระบวนการนำ translation model และ language model ไปใช้ในการแปลจริงซึ่งต่างจากตอน train โมเดล