рдореБрдЦреНрдп рд╕рд╛рдордЧреНрд░реА рдкрд░ рдЬрд╛рдПрдБ

BLOOM рдХрд╛ рдЕрдиреНрд╡реЗрд╖рдг: рдмрд╣реБрднрд╛рд╖реА Large Language Model рдХреЗ рд▓рд┐рдП рдПрдХ рд╡реНрдпрд╛рдкрдХ рдорд╛рд░реНрдЧрджрд░реНрд╢рд┐рдХрд╛

BLOOM, рдПрдХ рдмрд╣реБрднрд╛рд╖реА рдмрдбрд╝реЗ рднрд╛рд╖рд╛ рдореЙрдбрд▓, рдХреА рд░рдЪрдирд╛, рддрдХрдиреАрдХреА рд╡рд┐рд╢рд┐рд╖реНрдЯрддрд╛рдУрдВ, рдЙрдкрдпреЛрдЧ рдФрд░ рдиреИрддрд┐рдХ рдкрд╣рд▓реБрдУрдВ рдХрд╛ рдЕрдиреНрд╡реЗрд╖рдг рдХрд░реЗрдВтАФAI рдХреЗ рд▓реЛрдХрддрдВрддреНрд░реАрдХрд░рдг рдХреЗ рд▓рд┐рдПред

рдЕрдкрдирд╛ рдирд┐рдГрд╢реБрд▓реНрдХ рдЦрд╛рддрд╛ рдмрдирд╛рдПрдБ

рдЕрднреНрдпрд╛рд╕ рдФрд░ рдЯреНрд░реИрдХ рдЕрдкрдиреА рдкреНрд░рдЧрддрд┐ рдХреЛред

Google рдХреЗ рд╕рд╛рде рдЬрд╛рд░реА рд░рдЦреЗрдВрдЬрд╛рд░реА рд░рдЦрдХрд░, рдЖрдк рд╣рдорд╛рд░реА рдЙрдкрдпреЛрдЧ рдХреА рд╢рд░реНрддреЗрдВ, рд╣рдорд╛рд░реА рдЧреЛрдкрдиреАрдпрддрд╛ рдиреАрддрд┐ рдХреЛ рд╕реНрд╡реАрдХрд╛рд░ рдХрд░рддреЗ рд╣реИрдВ рдФрд░ рдпрд╣ рднреА рдХрд┐ рдЖрдкрдХрд╛ рдбреЗрдЯрд╛ USA рдореЗрдВ рд╕рдВрдЧреНрд░рд╣реАрдд рд╣реИред

рдмрдбрд╝реЗ рднрд╛рд╖рд╛ рдореЙрдбрд▓ (LLMs) рдХрд╛ рдЙрджрдп рдиреЗрдЪреБрд░рд▓ рд▓реИрдВрдЧреНрд╡реЗрдЬ рдкреНрд░реЛрд╕реЗрд╕рд┐рдВрдЧ (NLP) рдХреЗ рдХреНрд╖реЗрддреНрд░ рдореЗрдВ рдПрдХ рдирд┐рд░реНрдгрд╛рдпрдХ рдкреНрд░рд╡реГрддреНрддрд┐ рд░рд╣рд╛ рд╣реИ, рдЬрд┐рд╕рд╕реЗ рдЙрдирдХрд╛ рд╡рд┐рднрд┐рдиреНрди рдЕрдиреБрдкреНрд░рдпреЛрдЧреЛрдВ рдореЗрдВ рд╡реНрдпрд╛рдкрдХ рдЙрдкрдпреЛрдЧ рд╣реБрдЖ рд╣реИред рд╣рд╛рд▓рд╛рдВрдХрд┐, рдпрд╣ рдкреНрд░рдЧрддрд┐ рдЕрдХреНрд╕рд░ рд╡рд┐рд╢рд┐рд╖реНрдЯ рд░рд╣реА рд╣реИ, рдХреНрдпреЛрдВрдХрд┐ рдЕрдзрд┐рдХрд╛рдВрд╢ LLMs, рдЬрд┐рдиреНрд╣реЗрдВ рд╕рдореГрджреНрдз рд╕рдВрд╕рд╛рдзрдиреЛрдВ рд╡рд╛рд▓реЗ рд╕рдВрдЧрдардиреЛрдВ рдиреЗ рд╡рд┐рдХрд╕рд┐рдд рдХрд┐рдпрд╛ рд╣реИ, рдЖрдо рдЬрдирддрд╛ рдХреА рдкрд╣реБрдВрдЪ рд╕реЗ рджреВрд░ рд╣реИрдВред

рдпрд╣ рд╡рд┐рд╢рд┐рд╖реНрдЯрддрд╛ рдПрдХ рдорд╣рддреНрд╡рдкреВрд░реНрдг рдкреНрд░рд╢реНрди рдЦрдбрд╝рд╛ рдХрд░рддреА рд╣реИ: рдХреНрдпрд╛ рдЗрди рд╢рдХреНрддрд┐рд╢рд╛рд▓реА рднрд╛рд╖рд╛ рдореЙрдбрд▓реЛрдВ рддрдХ рдкрд╣реБрдВрдЪ рдХрд╛ рд▓реЛрдХрддрдВрддреНрд░реАрдХрд░рдг рдХрд░рдиреЗ рдХрд╛ рдХреЛрдИ рддрд░реАрдХрд╛ рд╣реЛ рд╕рдХрддрд╛ рд╣реИ? рдпрд╣реАрдВ рдкрд░ BLOOM рд╕рд╛рдордиреЗ рдЖрддрд╛ рд╣реИред

рдпрд╣ рд▓реЗрдЦ BLOOM рдХреНрдпрд╛ рд╣реИ, рдЙрд╕рдХрд╛ рдПрдХ рд╕рдВрдкреВрд░реНрдг рдЕрд╡рд▓реЛрдХрди рдкреНрд░рд╕реНрддреБрдд рдХрд░рддрд╛ рд╣реИтАФрдкрд╣рд▓реЗ рдЗрд╕рдХреЗ рдЙрджреНрднрд╡ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдЕрдзрд┐рдХ рд╡рд┐рд╡рд░рдг рджреЗрдХрд░ред рдЗрд╕рдХреЗ рдмрд╛рдж, рдпрд╣ BLOOM рдХреА рддрдХрдиреАрдХреА рд╡рд┐рд╢реЗрд╖рддрд╛рдУрдВ рдФрд░ рдЙрдкрдпреЛрдЧ-рд╡рд┐рдзрд┐ рд╕реЗ рдЧреБрдЬрд░рддрд╛ рд╣реИ, рдФрд░ рдЕрдВрдд рдореЗрдВ рдЗрд╕рдХреА рд╕реАрдорд╛рдУрдВ рдФрд░ рдиреИрддрд┐рдХ рд╡рд┐рдЪрд╛рд░реЛрдВ рдкрд░ рдкреНрд░рдХрд╛рд╢ рдбрд╛рд▓рддрд╛ рд╣реИред

BLOOM рдХреНрдпрд╛ рд╣реИ?

BigScience Large Open-science Open-access Multilingual Language Model (рд╕рдВрдХреНрд╖реЗрдк рдореЗрдВ BLOOM) рднрд╛рд╖рд╛ рдореЙрдбрд▓ рддрдХрдиреАрдХ рдХреЗ рд▓реЛрдХрддрдВрддреНрд░реАрдХрд░рдг рдореЗрдВ рдПрдХ рдорд╣рддреНрд╡рдкреВрд░реНрдг рдкреНрд░рдЧрддрд┐ рдХрд╛ рдкреНрд░рддрд┐рдирд┐рдзрд┐рддреНрд╡ рдХрд░рддрд╛ рд╣реИред

39 рджреЗрд╢реЛрдВ рдХреЗ 1200 рд╕реЗ рдЕрдзрд┐рдХ рдкреНрд░рддрд┐рднрд╛рдЧрд┐рдпреЛрдВ рджреНрд╡рд╛рд░рд╛ рд╕рд╣рдпреЛрдЧрд╛рддреНрдордХ рд░реВрдк рд╕реЗ рд╡рд┐рдХрд╕рд┐рдд, рдЬрд┐рдирдореЗрдВ рд╕реЗ рдПрдХ рдорд╣рддреНрд╡рдкреВрд░реНрдг рд╕рдВрдЦреНрдпрд╛ рд╕рдВрдпреБрдХреНрдд рд░рд╛рдЬреНрдп рдЕрдореЗрд░рд┐рдХрд╛ рд╕реЗ рдереА, BLOOM рдПрдХ рд╡реИрд╢реНрд╡рд┐рдХ рдкреНрд░рдпрд╛рд╕ рдХрд╛ рдкрд░рд┐рдгрд╛рдо рд╣реИред BigScience рджреНрд╡рд╛рд░рд╛ Hugging Face рдФрд░ рдлреНрд░реЗрдВрдЪ NLP рд╕рдореБрджрд╛рдп рдХреЗ рд╕рд╛рде рдорд┐рд▓рдХрд░ рд╕рдордиреНрд╡рд┐рдд рдпрд╣ рдкреНрд░реЛрдЬреЗрдХреНрдЯ рднреМрдЧреЛрд▓рд┐рдХ рдФрд░ рд╕рдВрд╕реНрдерд╛рдЧрдд рд╕реАрдорд╛рдУрдВ рд╕реЗ рдкрд░реЗ рдЬрд╛рддрд╛ рд╣реИред

рдпрд╣ рдПрдХ рдУрдкрди-рд╕реЛрд░реНрд╕ рдФрд░ рдХреЗрд╡рд▓ рдбрд┐рдХреЛрдбрд░ рд╡рд╛рд▓рд╛ рдЯреНрд░рд╛рдВрд╕рдлреЙрд░реНрдорд░ рдореЙрдбрд▓ рд╣реИ, рдЬрд┐рд╕рдореЗрдВ 176B рдкреИрд░рд╛рдореАрдЯрд░реНрд╕ рд╣реИрдВ рдФрд░ рдЬрд┐рд╕реЗ ROOTS рдХреЙрд░реНрдкрд╕ рдкрд░ рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рдХрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИтАФрдпрд╣ 59 рднрд╛рд╖рд╛рдУрдВ рдХреЗ рд╕реИрдХрдбрд╝реЛрдВ рд╕реНрд░реЛрддреЛрдВ рд╡рд╛рд▓рд╛ рдбреЗрдЯрд╛рд╕реЗрдЯ рд╣реИ: 46 рдмреЛрд▓реА рдЬрд╛рдиреЗ рд╡рд╛рд▓реА рднрд╛рд╖рд╛рдПрдБ рдФрд░ 13 рдкреНрд░реЛрдЧреНрд░рд╛рдорд┐рдВрдЧ рднрд╛рд╖рд╛рдПрдБред

рдиреАрдЪреЗ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рднрд╛рд╖рд╛рдУрдВ рдХреЗ рд╡рд┐рддрд░рдг рдХрд╛ рдкрд╛рдИ рдЪрд╛рд░реНрдЯ рджрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИред

рдкреНрд░рд╢рд┐рдХреНрд╖рдг рднрд╛рд╖рд╛рдУрдВ рдХрд╛ рд╡рд┐рддрд░рдг

рдкреНрд░рд╢рд┐рдХреНрд╖рдг рднрд╛рд╖рд╛рдУрдВ рдХрд╛ рд╡рд┐рддрд░рдг (рд╕реНрд░реЛрдд)

рдореЙрдбрд▓ рдиреЗ рд╡рд┐рднрд┐рдиреНрди рдмреЗрдВрдЪрдорд╛рд░реНрдХреНрд╕ рдкрд░ рдЙрд▓реНрд▓реЗрдЦрдиреАрдп рдкреНрд░рджрд░реНрд╢рди рд╣рд╛рд╕рд┐рд▓ рдХрд┐рдпрд╛, рдФрд░ рдорд▓реНрдЯреАрдЯрд╛рд╕реНрдХ рдкреНрд░реЙрдореНрдкреНрдЯреЗрдб рдлрд╛рдЗрди-рдЯреНрдпреВрдирд┐рдВрдЧ рдХреЗ рдмрд╛рдж рдФрд░ рдмреЗрд╣рддрд░ рдкрд░рд┐рдгрд╛рдо рдкреНрд░рд╛рдкреНрдд рдХрд┐рдПред

рдпрд╣ рдкреНрд░реЛрдЬреЗрдХреНрдЯ рдкреЗрд░рд┐рд╕ рдХреЗ рдЬрд╛рдБ рдЬрд╝реЗ рд╕реБрдкрд░рдХрдВрдкреНрдпреВрдЯрд░ рдкрд░ 117-рджрд┐рди (11 рдорд╛рд░реНрдЪ - 6 рдЬреБрд▓рд╛рдИ) рдХреЗ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рд╕рддреНрд░ рдореЗрдВ рдкрд░рд┐рдгрдд рд╣реБрдЖ, рдЬрд┐рд╕реЗ рдлреНрд░рд╛рдВрд╕реАрд╕реА рд╢реЛрдз рдПрдЬреЗрдВрд╕рд┐рдпреЛрдВ CNRS рдФрд░ GENCI рд╕реЗ рдмрдбрд╝реЗ рдХрдВрдкреНрдпреВрдЯ рдЧреНрд░рд╛рдВрдЯ рдХрд╛ рд╕рдорд░реНрдерди рдорд┐рд▓рд╛ред

BLOOM рди рдХреЗрд╡рд▓ рдПрдХ рддрдХрдиреАрдХреА рдЪрдорддреНрдХрд╛рд░ рд╣реИ рдмрд▓реНрдХрд┐ рдЕрдВрддрд░рд░рд╛рд╖реНрдЯреНрд░реАрдп рд╕рд╣рдпреЛрдЧ рдФрд░ рд╕рд╛рдореВрд╣рд┐рдХ рд╡реИрдЬреНрдЮрд╛рдирд┐рдХ рдкреНрд░рдпрд╛рд╕ рдХреА рд╢рдХреНрддрд┐ рдХрд╛ рдкреНрд░рддреАрдХ рднреА рд╣реИред

BLOOM рдореЙрдбрд▓ рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░

рдЕрдм, рдЖрдЗрдП BLOOM рдХреА рд╕рдВрд░рдЪрдирд╛ рдХреЛ рдЕрдзрд┐рдХ рд╡рд┐рд╕реНрддреГрдд рддрд░реАрдХреЗ рд╕реЗ рд╡рд░реНрдгрд┐рдд рдХрд░реЗрдВ, рдЬрд┐рд╕рдореЗрдВ рдХрдИ рдЕрд╡рдпрд╡ рд╢рд╛рдорд┐рд▓ рд╣реИрдВред

Bloom рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░

Bloom рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░ (рд╕реНрд░реЛрдд)

рдкреЗрдкрд░ рдореЗрдВ рд╡рд░реНрдгрд┐рдд рдЕрдиреБрд╕рд╛рд░, BLOOM рдореЙрдбрд▓ рдХреА рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░ рдореЗрдВ рдХрдИ рдЙрд▓реНрд▓реЗрдЦрдиреАрдп рдкрд╣рд▓реВ рд╢рд╛рдорд┐рд▓ рд╣реИрдВ:

  • рдбрд┐рдЬрд╝рд╛рдЗрди рдкрджреНрдзрддрд┐: рдЯреАрдо рдиреЗ рдРрд╕реЗ рд╕реНрдХреЗрд▓реЗрдмрд▓ рдореЙрдбрд▓ рдкрд░рд┐рд╡рд╛рд░реЛрдВ рдкрд░ рдзреНрдпрд╛рди рдХреЗрдВрджреНрд░рд┐рдд рдХрд┐рдпрд╛ рдЬрд┐рдирдХрд╛ рд╕рд╛рд░реНрд╡рдЬрдирд┐рдХ рд░реВрдк рд╕реЗ рдЙрдкрд▓рдмреНрдз рдЯреВрд▓реНрд╕ рдФрд░ рдХреЛрдбрдмреЗрд╕ рдореЗрдВ рд╕рдорд░реНрдерди рд╣реЛ, рдФрд░ рдЕрд╡рдпрд╡реЛрдВ рд╡ рд╣рд╛рдЗрдкрд░рдкреИрд░рд╛рдореАрдЯрд░реНрд╕ рдХреЛ рдЕрдиреБрдХреВрд▓рд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЫреЛрдЯреЗ рдореЙрдбрд▓реЛрдВ рдкрд░ рдПрдмреНрд▓реЗрд╢рди рдкреНрд░рдпреЛрдЧ рдХрд┐рдПред рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░рд▓ рдирд┐рд░реНрдгрдпреЛрдВ рдХреЗ рдореВрд▓реНрдпрд╛рдВрдХрди рдХреЗ рд▓рд┐рдП рдЬрд╝реАрд░реЛ-рд╢реЙрдЯ рдЬрдирд░рд▓рд╛рдЗрдЬрд╝реЗрд╢рди рдПрдХ рдкреНрд░рдореБрдЦ рдореАрдЯреНрд░рд┐рдХ рдерд╛ред
  • рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░ рдФрд░ рдкреНрд░реАрдЯреНрд░реЗрдирд┐рдВрдЧ рдЙрджреНрджреЗрд╢реНрдп: BLOOM рдЯреНрд░рд╛рдВрд╕рдлреЙрд░реНрдорд░ рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░ рдкрд░ рдЖрдзрд╛рд░рд┐рдд рд╣реИ, рд╡рд┐рд╢реЗрд╖ рд░реВрдк рд╕реЗ рдПрдХ рдХреЙрдЬрд╝рд▓ рдбрд┐рдХреЛрдбрд░-рдУрдирд▓реА рдореЙрдбрд▓ред рдпрд╣ рджреГрд╖реНрдЯрд┐рдХреЛрдг рдПрдиреНрдХреЛрдбрд░-рдбрд┐рдХреЛрдбрд░ рдФрд░ рдЕрдиреНрдп рдбрд┐рдХреЛрдбрд░-рдУрдирд▓реА рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░ рдХреА рддреБрд▓рдирд╛ рдореЗрдВ рдЬрд╝реАрд░реЛ-рд╢реЙрдЯ рдЬрдирд░рд▓рд╛рдЗрдЬрд╝реЗрд╢рди рдХреНрд╖рдорддрд╛рдУрдВ рдХреЗ рд▓рд┐рдП рд╕рдмрд╕реЗ рдкреНрд░рднрд╛рд╡реА рдкрд╛рдпрд╛ рдЧрдпрд╛ред
  • рдореЙрдбрд▓рд┐рдВрдЧ рд╡рд┐рд╡рд░рдг:
    • ALiBi рдкреЛрдЬрд╝рд┐рд╢рдирд▓ рдПрдореНрдмреЗрдбрд┐рдВрдЧреНрд╕: рдкрд╛рд░рдВрдкрд░рд┐рдХ рдкреЛрдЬрд╝рд┐рд╢рдирд▓ рдПрдореНрдмреЗрдбрд┐рдВрдЧреНрд╕ рдХреЗ рдмрдЬрд╛рдп ALiBi рдХреЛ рдЪреБрдирд╛ рдЧрдпрд╛, рдХреНрдпреЛрдВрдХрд┐ рдпрд╣ рдХреБрдВрдЬрд┐рдпреЛрдВ рдФрд░ рдХреНрд╡реЗрд░реАрдЬ рдХреЗ рдмреАрдЪ рджреВрд░реА рдХреЗ рдЖрдзрд╛рд░ рдкрд░ рдзреНрдпрд╛рди рд╕реНрдХреЛрд░ рдХреЛ рд╕реАрдзреЗ рдХрдо рдХрд░рддрд╛ рд╣реИред рдЗрд╕рд╕реЗ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдЕрдзрд┐рдХ рд╕реНрдореВрдж рд╣реБрдЖ рдФрд░ рдкреНрд░рджрд░реНрд╢рди рдмреЗрд╣рддрд░ рд╣реБрдЖред
    • рдПрдореНрдмреЗрдбрд┐рдВрдЧ рд▓реЗрдпрд░рдиреЙрд░реНрдо: рдПрдореНрдмреЗрдбрд┐рдВрдЧ рд▓реЗрдпрд░ рдХреЗ рдареАрдХ рдмрд╛рдж рдПрдХ рдЕрддрд┐рд░рд┐рдХреНрдд рд▓реЗрдпрд░ рдиреЙрд░реНрдорд▓рд╛рдЗрдЬрд╝реЗрд╢рди рд╢рд╛рдорд┐рд▓ рдХрд┐рдпрд╛ рдЧрдпрд╛, рдЬрд┐рд╕рд╕реЗ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рд╕реНрдерд┐рд░рддрд╛ рдореЗрдВ рд╕реБрдзрд╛рд░ рд╣реБрдЖред рдпрд╣ рдирд┐рд░реНрдгрдп рдЖрдВрд╢рд┐рдХ рд░реВрдк рд╕реЗ рдЕрдВрддрд┐рдо рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдореЗрдВ bfloat16 рдХреЗ рдЙрдкрдпреЛрдЧ рд╕реЗ рдкреНрд░рднрд╛рд╡рд┐рдд рдерд╛, рдЬреЛ float16 рдХреА рддреБрд▓рдирд╛ рдореЗрдВ рдЕрдзрд┐рдХ рд╕реНрдерд┐рд░ рд╣реИтАЛтАЛред

рдпреЗ рдЕрд╡рдпрд╡ рдЯреАрдо рдХреЗ рдЙрд╕ рдлреЛрдХрд╕ рдХреЛ рджрд░реНрд╢рд╛рддреЗ рд╣реИрдВ рдЬрд┐рд╕рдореЗрдВ рдкреНрд░рджрд░реНрд╢рди рдФрд░ рд╕реНрдерд┐рд░рддрд╛ рдХреЛ рдЕрдиреБрдХреВрд▓рд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдирд╡рд╛рдЪрд╛рд░ рдФрд░ рд╕рд┐рджреНрдз рддрдХрдиреАрдХреЛрдВ рдХреЗ рдмреАрдЪ рд╕рдВрддреБрд▓рди рд╕рд╛рдзрд╛ рдЧрдпрд╛ред

BLOOM рдХреА рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░рд▓ рдЗрдХрд╛рдЗрдпреЛрдВ рдХреЗ рдЕрддрд┐рд░рд┐рдХреНрдд, рджреЛ рдФрд░ рдкреНрд░рд╛рд╕рдВрдЧрд┐рдХ рдЕрд╡рдпрд╡реЛрдВ рдХреЛ рд╕рдордЭрддреЗ рд╣реИрдВ: рдбреЗрдЯрд╛ рдкреНрд░реАрдкреНрд░реЛрд╕реЗрд╕рд┐рдВрдЧ рдФрд░ рдкреНрд░реЙрдореНрдкреНрдЯреЗрдб рдбреЗрдЯрд╛рд╕реЗрдЯреНрд╕ред

  • рдбреЗрдЯрд╛ рдкреНрд░реАрдкреНрд░реЛрд╕реЗрд╕рд┐рдВрдЧ: рдЗрд╕рдореЗрдВ рдбреАрдбреБрдкреНрд▓рд┐рдХреЗрд╢рди рдФрд░ рдЧреЛрдкрдиреАрдпрддрд╛-рд╕рдВрдмрдВрдзреА рдЬрд╛рдирдХрд╛рд░реА рдХреЛ рд╣рдЯрд╛рдиреЗ рдЬреИрд╕реЗ рдорд╣рддреНрд╡рдкреВрд░реНрдг рдЪрд░рдг рд╢рд╛рдорд┐рд▓ рдереЗ, рд╡рд┐рд╢реЗрд╖ рд░реВрдк рд╕реЗ рдЙрдЪреНрдЪ рдЧреЛрдкрдиреАрдпрддрд╛ рдЬреЛрдЦрд┐рдо рд╡рд╛рд▓реЗ рд╕реНрд░реЛрддреЛрдВ рдХреЗ рд▓рд┐рдПред
  • рдкреНрд░реЙрдореНрдкреНрдЯреЗрдб рдбреЗрдЯрд╛рд╕реЗрдЯреНрд╕: BLOOM рдорд▓реНрдЯреАрдЯрд╛рд╕реНрдХ рдкреНрд░реЙрдореНрдкреНрдЯреЗрдб рдлрд╛рдЗрди-рдЯреНрдпреВрдирд┐рдВрдЧ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддрд╛ рд╣реИ, рдЬрд┐рд╕рдиреЗ рдЬрд╝реАрд░реЛ-рд╢реЙрдЯ рдЯрд╛рд╕реНрдХ рдЬрдирд░рд▓рд╛рдЗрдЬрд╝реЗрд╢рди рдХреА рдордЬрдмреВрдд рдХреНрд╖рдорддрд╛рдПрдБ рджрд┐рдЦрд╛рдИ рд╣реИрдВред

BLOOM рдХрд╛ рдЙрдкрдпреЛрдЧ рдХреИрд╕реЗ рдХрд░реЗрдВ

рдЗрд╕ рдЙрджрд╛рд╣рд░рдг рдореЗрдВ, рд╣рдо BLOOM рдХрд╛ рдЙрдкрдпреЛрдЧ рдПрдХ рд░рдЪрдирд╛рддреНрдордХ рдХрд╣рд╛рдиреА рдЬрдирд░реЗрдЯ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдХрд░реЗрдВрдЧреЗред рджрд┐рдпрд╛ рдЧрдпрд╛ рдХреЛрдб рдкрд░реНрдпрд╛рд╡рд░рдг рд╕реЗрдЯрдЕрдк, рдореЙрдбрд▓ рдХреА рддреИрдпрд╛рд░реА, рдФрд░ рджрд┐рдП рдЧрдП рдкреНрд░реЙрдореНрдкреНрдЯ рдХреЗ рдЖрдзрд╛рд░ рдкрд░ рдкрд╛рда рдЬрдирд░реЗрдЯ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рд╕рдВрд░рдЪрд┐рдд рд╣реИред рд╕рдВрдмрдВрдзрд┐рдд рд╕реЛрд░реНрд╕ рдХреЛрдб GitHub рдкрд░ рдЙрдкрд▓рдмреНрдз рд╣реИ, рдФрд░ рдпрд╣ amrrs рдХреЗ рдЯреНрдпреВрдЯреЛрд░рд┐рдпрд▓ рд╕реЗ рдкреНрд░реЗрд░рд┐рдд рд╣реИред

рд╡рд░реНрдХрд╕реНрдкреЗрд╕ рдХреЙрдиреНрдлрд╝рд┐рдЧрд░ рдХрд░реЗрдВ

BLOOM рдореЙрдбрд▓ рд╕рдВрд╕рд╛рдзрди-рдЧрд╣рди рд╣реИ, рдЗрд╕рд▓рд┐рдП рд╡рд░реНрдХрд╕реНрдкреЗрд╕ рдХрд╛ рдЙрдЪрд┐рдд рдХреЙрдиреНрдлрд╝рд┐рдЧрд░реЗрд╢рди рдорд╣рддреНрд╡рдкреВрд░реНрдг рд╣реИ; рдореБрдЦреНрдп рдЪрд░рдг рдиреАрдЪреЗ рд╡рд░реНрдгрд┐рдд рд╣реИрдВред

рд╕рдмрд╕реЗ рдкрд╣рд▓реЗ, transformer рд▓рд╛рдЗрдмреНрд░реЗрд░реА BLOOM рдореЙрдбрд▓ рдФрд░ рдЕрдиреНрдп рдЯреНрд░рд╛рдВрд╕рдлреЙрд░реНрдорд░-рдЖрдзрд╛рд░рд┐рдд рдореЙрдбрд▓реЛрдВ рдХреЗ рд╕рд╛рде рдХрд╛рдо рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдЗрдВрдЯрд░рдлреЗрд╕ рдЙрдкрд▓рдмреНрдз рдХрд░рд╛рддреА рд╣реИред

!pip install transformers -q

nvidia-smi рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ, рд╣рдо рдЙрдкрд▓рдмреНрдз GPU рдХреЗ рдЧреБрдгреЛрдВ рдХреА рдЬрд╛рдБрдЪ рдХрд░рддреЗ рд╣реИрдВ рддрд╛рдХрд┐ рдпрд╣ рд╕реБрдирд┐рд╢реНрдЪрд┐рдд рдХрд┐рдпрд╛ рдЬрд╛ рд╕рдХреЗ рдХрд┐ рдореЙрдбрд▓ рдЪрд▓рд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдЖрд╡рд╢реНрдпрдХ рд╕рдВрдЧрдгрдирд╛рддреНрдордХ рд╕рдВрд╕рд╛рдзрди рд╣рдорд╛рд░реЗ рдкрд╛рд╕ рд╣реИрдВред

!nvidia-smi

GPU рдЧреБрдг

рд╣рдо transformers рдФрд░ torch рд╕реЗ рдЖрд╡рд╢реНрдпрдХ рдореЙрдбреНрдпреВрд▓ рдЗрдореНрдкреЛрд░реНрдЯ рдХрд░рддреЗ рд╣реИрдВред GPU рддреНрд╡рд░рдг рдХрд╛ рд▓рд╛рдн рд▓реЗрдиреЗ рдХреЗ рд▓рд┐рдП torch рдХрд╛ рдЙрдкрдпреЛрдЧ рдбрд┐рдлрд╝реЙрд▓реНрдЯ рдЯреЗрдиреНрд╕рд░ рдкреНрд░рдХрд╛рд░ рд╕реЗрдЯ рдХрд░рдиреЗ рд╣реЗрддреБ рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред

рдЗрд╕рдХреЗ рдмрд╛рдж, рдЪреВрдВрдХрд┐ рд╣рдо GPU рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░ рд░рд╣реЗ рд╣реИрдВ, torch рд▓рд╛рдЗрдмреНрд░реЗрд░реА рдХреЛ set_default_tensor_type рдлрд╝рдВрдХреНрд╢рди рд╕реЗ рд╕реЗрдЯ рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ рддрд╛рдХрд┐ GPU рдХрд╛ рдЙрдкрдпреЛрдЧ рд╕реБрдирд┐рд╢реНрдЪрд┐рдд рд╣реЛред

from transformers import AutoModelForCausalLM, AutoTokenizer, set_seed
import torch
torch.set_default_tensor_type(torch.cuda.FloatTensor)

BLOOM рдореЙрдбрд▓ рдХрд╛ рдЙрдкрдпреЛрдЧ

рдпрд╣рд╛рдБ рд▓рдХреНрд╖реНрдп рдореЙрдбрд▓ 7 рдмрд┐рд▓рд┐рдпрди рдкреИрд░рд╛рдореАрдЯрд░ рд╡рд╛рд▓рд╛ BLOOM рдореЙрдбрд▓ рд╣реИ, рдФрд░ рдпрд╣ BigScience рдХреЗ Hubbing Face рд░рд┐рдкреЛрдЬрд┐рдЯрд░реА рдореЗрдВ bigscience/bloom-1b7 рдХреЗ рдЕрдВрддрд░реНрдЧрдд рдЙрдкрд▓рдмреНрдз рд╣реИ, рдЬреЛ рдореЙрдбрд▓ рдХрд╛ рдпреВрдирд┐рдХ рдЖрдЗрдбреЗрдВрдЯрд┐рдлрд╝рд╛рдпрд░ рд╣реИред

model_ID = "bigscience/bloom-1b7"

рдЕрдЧрд▓реЗ рдЪрд░рдг рдореЗрдВ, рд╣рдо Hugging Face рд╕реЗ рдкреНрд░реА-рдЯреНрд░реЗрдВрдб BLOOM рдореЙрдбрд▓ рдФрд░ рдЯреЛрдХрдирд╛рдЗрдЬрд╝рд░ рд▓реЛрдб рдХрд░рддреЗ рд╣реИрдВ, рдФрд░ set_seed рдлрд╝рдВрдХреНрд╢рди рдХреЗ рдЬрд░рд┐рдП рдкреБрдирд░реБрддреНрдкрд╛рджрдХрддрд╛ рдХреЗ рд▓рд┐рдП рдХрд┐рд╕реА рдПрдХ рд╕рдВрдЦреНрдпрд╛ рд╕реЗ рд╕реАрдб рд╕реЗрдЯ рдХрд░рддреЗ рд╣реИрдВред рд╕рдВрдЦреНрдпрд╛ рдХрд╛ рд╡рд┐рд╢рд┐рд╖реНрдЯ рдорд╛рди рдорд╛рдпрдиреЗ рдирд╣реАрдВ рд░рдЦрддрд╛, рдмрд╕ рдпрд╣ рдЧреИрд░-рдлреНрд▓реЛрдЯрд┐рдВрдЧ рд╣реЛрдирд╛ рдЪрд╛рд╣рд┐рдПред

LangChain, рдЬреЛ рдЙрдиреНрдирдд AI рдПрдкреНрд▓рд┐рдХреЗрд╢рди рдмрдирд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдПрдХ рдУрдкрди-рд╕реЛрд░реНрд╕ Python рдлрд╝реНрд░реЗрдорд╡рд░реНрдХ рд╣реИ, рдХреЗ рд╕рд╛рде рдмрдбрд╝реЗ рднрд╛рд╖рд╛ рдореЙрдбрд▓реЛрдВ рдХреА рдЕрдирдЫреБрдИ рд╕рдВрднрд╛рд╡рдирд╛рдУрдВ рдХреЗ рдмрд╛рд░реЗ рдореЗрдВ рдЕрдзрд┐рдХ рдЬрд╛рдирдиреЗ рдХреЗ рд▓рд┐рдП рд╣рдорд╛рд░рд╛ рдЯреНрдпреВрдЯреЛрд░рд┐рдпрд▓ How to Build LLM Applications with LangChain Tutorial рд╕рд╣реА рдорд╛рд░реНрдЧрджрд░реНрд╢рд┐рдХрд╛ рд╣реИред

рдЗрд╕рдХреЗ рдЕрд▓рд╛рд╡рд╛, рдпрджрд┐ рдЖрдк рдбреЗрдЯрд╛ рдЗрдВрдЬреАрдирд┐рдпрд░ рд╣реИрдВ рдФрд░ рдбреЗрдЯрд╛ рдЕрдиреБрдкреНрд░рдпреЛрдЧреЛрдВ рдХреЗ рд▓рд┐рдП LangChain рдХреЗ рдЙрдкрдпреЛрдЧ рдореЗрдВ рд░реБрдЪрд┐ рд░рдЦрддреЗ рд╣реИрдВ, рддреЛ рд╣рдорд╛рд░рд╛ рд▓реЗрдЦ Introduction to LangChain for Data Engineering & Data Applications рдпрд╣ рдмрддрд╛рддрд╛ рд╣реИ рдХрд┐ рдЖрдк LangChain рд╕реЗ рдХреНрдпрд╛ рдХрд░ рд╕рдХрддреЗ рд╣реИрдВ, рдХрд┐рди рд╕рдорд╕реНрдпрд╛рдУрдВ рдХреЛ рдпрд╣ рд╣рд▓ рдХрд░рддрд╛ рд╣реИ, рдФрд░ рдбреЗрдЯрд╛ рдЙрдкрдпреЛрдЧ рдорд╛рдорд▓реЛрдВ рдХреЗ рдЙрджрд╛рд╣рд░рдгред

model = AutoModelForCausalLM.from_pretrained(model_ID, use_cache=True) 
tokenizer = AutoTokenizer.from_pretrained(model_ID)
set_seed(2024)

рдЕрдм, рд╣рдо рдЬрдирд░реЗрдЯ рдХреА рдЬрд╛рдиреЗ рд╡рд╛рд▓реА рдХрд╣рд╛рдиреА рдХрд╛ рд╢реАрд░реНрд╖рдХ рдФрд░ рдкреНрд░реЙрдореНрдкреНрдЯ рдкрд░рд┐рднрд╛рд╖рд┐рдд рдХрд░ рд╕рдХрддреЗ рд╣реИрдВред

story_title = 'An Unexpected Journey Through Time' 
prompt = f'This is a creative story about {story_title}.\n'

рдЕрдВрдд рдореЗрдВ, рд╣рдо рдкреНрд░реЙрдореНрдкреНрдЯ рдХреЛ рдЯреЛрдХрдирд╛рдЗрдЬрд╝ рдХрд░рддреЗ рд╣реИрдВ рдФрд░ рдЙрдкрдпреБрдХреНрдд рдореЙрдбрд▓ рдбрд┐рд╡рд╛рдЗрд╕ рдкрд░ рдореИрдк рдХрд░рддреЗ рд╣реИрдВ, рдлрд┐рд░ рдбрд┐рдХреЛрдбрд┐рдВрдЧ рдХреЗ рдмрд╛рдж рдореЙрдбрд▓ рдХрд╛ рдкрд░рд┐рдгрд╛рдо рдЬрдирд░реЗрдЯ рдХрд░рддреЗ рд╣реИрдВред

input_ids = tokenizer(prompt, return_tensors="pt").to(0)

sample = model.generate(**input_ids, 
                        max_length=200, top_k=1, 
                        temperature=0, repetition_penalty=2.0)

generated_story = tokenizer.decode(sample[0], skip_special_tokens=True)

рдЕрдВрддрд┐рдо рдкрд░рд┐рдгрд╛рдо рдХреЛ textwrap рдореЙрдбреНрдпреВрд▓ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рдлрд╝реЙрд░реНрдореЗрдЯ рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ, рддрд╛рдХрд┐ рдмреЗрд╣рддрд░ рдкрдардиреАрдпрддрд╛ рдХреЗ рд▓рд┐рдП рдкреНрд░рддрд┐ рдкрдВрдХреНрддрд┐ рдЕрдзрд┐рдХрддрдо 80 рдЕрдХреНрд╖рд░ рд░рд╣реЗрдВред

import textwrap  
wrapper = textwrap.TextWrapper(width=80)
formated_story = wrapper.fill(text=generated_story)
print(formated_story)

рдЕрдВрддрд┐рдо рдкрд░рд┐рдгрд╛рдо рдиреАрдЪреЗ рджрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИ:

image2.png

BLOOM рдореЙрдбрд▓ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░ рдЬрдирд░реЗрдЯ рдХреА рдЧрдИ рдХрд╣рд╛рдиреА

рдХреБрдЫ рдкрдВрдХреНрддрд┐рдпреЛрдВ рдХреЗ рдХреЛрдб рд╕реЗ, рд╣рдо BLOOM рдореЙрдбрд▓ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рд╕рд╛рд░реНрдердХ рд╕рд╛рдордЧреНрд░реА рдЬрдирд░реЗрдЯ рдХрд░рдиреЗ рдореЗрдВ рд╕рдХреНрд╖рдо рд╣реБрдПред

рдпрджрд┐ рдЖрдк PyTorch рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рдмрдбрд╝реЗ рднрд╛рд╖рд╛ рдореЙрдбрд▓реЛрдВ рдХреЛ рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рдХрд░рдиреЗ рдХреА рдкреНрд░рдХреНрд░рд┐рдпрд╛тАФрдкреНрд░рд╛рд░рдВрднрд┐рдХ рд╕реЗрдЯрдЕрдк рд╕реЗ рдЕрдВрддрд┐рдо рдХрд╛рд░реНрдпрд╛рдиреНрд╡рдпрди рддрдХтАФрдореЗрдВ рдирд┐рдкреБрдг рд╣реЛрдирд╛ рдЪрд╛рд╣рддреЗ рд╣реИрдВ, рддреЛ рд╣рдорд╛рд░рд╛ рдЯреНрдпреВрдЯреЛрд░рд┐рдпрд▓ How to Train an LLM with PyTorch рдЙрд╕ рд▓рдХреНрд╖реНрдп рддрдХ рдкрд╣реБрдБрдЪрдиреЗ рдХреЗ рд▓рд┐рдП рдПрдХ рд╕рдВрдкреВрд░реНрдг рдорд╛рд░реНрдЧрджрд░реНрд╢рд┐рдХрд╛ рдкреНрд░рджрд╛рди рдХрд░рддрд╛ рд╣реИред

рдЙрджреНрджреЗрд╢реНрдпрд┐рдд рдФрд░ рджрд╛рдпрд░реЗ рд╕реЗ рдмрд╛рд╣рд░ рдЙрдкрдпреЛрдЧ

рд╣рд░ рддрдХрдиреАрдХреА рдкреНрд░рдЧрддрд┐ рдХреА рддрд░рд╣, BLOOM рдХреЗ рднреА рдЙрдкрдпреБрдХреНрдд рдФрд░ рдЕрдиреБрдкрдпреБрдХреНрдд рдЕрдиреБрдкреНрд░рдпреЛрдЧреЛрдВ рдХрд╛ рдЕрдкрдирд╛ рд╕реЗрдЯ рд╣реИред рдпрд╣ рдЕрдиреБрднрд╛рдЧ рдЗрд╕рдХреЗ рдЙрдкрдпреБрдХреНрдд рдФрд░ рдЕрдиреБрдЪрд┐рдд рдЙрдкрдпреЛрдЧ рдорд╛рдорд▓реЛрдВ рдкрд░ рдЪрд░реНрдЪрд╛ рдХрд░рддрд╛ рд╣реИтАФрдЬрд╣рд╛рдБ рдЗрд╕рдХреА рдХреНрд╖рдорддрд╛рдУрдВ рдХрд╛ рд╕рд░реНрд╡реЛрддреНрддрдо рдЙрдкрдпреЛрдЧ рд╣реЛ рд╕рдХрддрд╛ рд╣реИ рдФрд░ рдЬрд╣рд╛рдБ рд╕рд╛рд╡рдзрд╛рдиреА рдмрд░рддрдиреА рдЪрд╛рд╣рд┐рдПред рдЗрди рд╕реАрдорд╛рдУрдВ рдХреЛ рд╕рдордЭрдирд╛ BLOOM рдХреА рдХреНрд╖рдорддрд╛рдУрдВ рдХрд╛ рдЬрд┐рдореНрдореЗрджрд╛рд░реАрдкреВрд░реНрд╡рдХ рдФрд░ рдкреНрд░рднрд╛рд╡реА рдврдВрдЧ рд╕реЗ рдЙрдкрдпреЛрдЧ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдорд╣рддреНрд╡рдкреВрд░реНрдг рд╣реИред

BLOOM рдХреЗ рдЙрджреНрджреЗрд╢реНрдпрд┐рдд рдЙрдкрдпреЛрдЧ

BLOOM рднрд╛рд╖рд╛ рдкреНрд░реЛрд╕реЗрд╕рд┐рдВрдЧ рдФрд░ рдЬрдирд░реЗрд╢рди рдХреА рд╕реАрдорд╛рдУрдВ рдХреЛ рдЖрдЧреЗ рдмрдврд╝рд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдбрд┐рдЬрд╝рд╛рдЗрди рдХрд┐рдпрд╛ рдЧрдпрд╛ рдПрдХ рдмрд╣реБрдореБрдЦреА рдЙрдкрдХрд░рдг рд╣реИред рдЗрд╕рдХреЗ рдЙрджреНрджреЗрд╢реНрдпрд┐рдд рдЙрдкрдпреЛрдЧ рд╡рд┐рднрд┐рдиреНрди рдбреЛрдореЗрди рдореЗрдВ рдлреИрд▓реЗ рд╣реБрдП рд╣реИрдВ, рдЬреЛ рдЗрд╕рдХреА рд╡реНрдпрд╛рдкрдХ рднрд╛рд╖рд╛ рдХреНрд╖рдорддрд╛рдУрдВ рдХрд╛ рд▓рд╛рдн рдЙрдард╛рддреЗ рд╣реИрдВред

  • рдмрд╣реБрднрд╛рд╖реА рд╕рд╛рдордЧреНрд░реА рдирд┐рд░реНрдорд╛рдг: 59 рднрд╛рд╖рд╛рдУрдВ рдореЗрдВ рджрдХреНрд╖рддрд╛ рдХреЗ рд╕рд╛рде, BLOOM рд╡рд┐рд╡рд┐рдз рдФрд░ рд╕рдорд╛рд╡реЗрд╢реА рд╕рд╛рдордЧреНрд░реА рдмрдирд╛рдиреЗ рдореЗрдВ рдЙрддреНрдХреГрд╖реНрдЯ рд╣реИред рдпрд╣ рдХреНрд╖рдорддрд╛ рд╡реИрд╢реНрд╡рд┐рдХ рд╕рдВрдЪрд╛рд░, рд╢рд┐рдХреНрд╖рд╛ рдФрд░ рдореАрдбрд┐рдпрд╛ рдореЗрдВ рд╡рд┐рд╢реЗрд╖ рд░реВрдк рд╕реЗ рдореВрд▓реНрдпрд╡рд╛рди рд╣реИ, рдЬрд╣рд╛рдБ рднрд╛рд╖рд╛ рд╕рдорд╛рд╡реЗрд╢рди рдорд╣рддреНрд╡рдкреВрд░реНрдг рд╣реИредтАи
  • рдХреЛрдбрд┐рдВрдЧ рдФрд░ рд╕реЙрдлреНрдЯрд╡реЗрдпрд░ рд╡рд┐рдХрд╛рд╕: рдкреНрд░реЛрдЧреНрд░рд╛рдорд┐рдВрдЧ рднрд╛рд╖рд╛рдУрдВ рдореЗрдВ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдХреЗ рдХрд╛рд░рдг BLOOM рд╕реЙрдлреНрдЯрд╡реЗрдпрд░ рд╡рд┐рдХрд╛рд╕ рдореЗрдВ рдПрдХ рд╕рдВрдкрддреНрддрд┐ рд╣реИред рдпрд╣ рдХреЛрдб рдЬрдирд░реЗрд╢рди, рдбреАрдмрдЧрд┐рдВрдЧ рдЬреИрд╕реЗ рдХрд╛рд░реНрдпреЛрдВ рдореЗрдВ рд╕рд╣рд╛рдпрддрд╛ рдХрд░ рд╕рдХрддрд╛ рд╣реИ рдФрд░ рдирдП рдкреНрд░реЛрдЧреНрд░рд╛рдорд░реНрд╕ рдХреЗ рд▓рд┐рдП рдПрдХ рд╢реИрдХреНрд╖рд┐рдХ рдЙрдкрдХрд░рдг рдХреЗ рд░реВрдк рдореЗрдВ рдХрд╛рдо рдХрд░ рд╕рдХрддрд╛ рд╣реИредтАи
  • рд╢реЛрдз рдФрд░ рдЕрдХрд╛рджрдорд┐рдХ рдХреНрд╖реЗрддреНрд░: рдЕрдХрд╛рджрдорд┐рдХ рдЬрдЧрдд рдореЗрдВ, BLOOM рднрд╛рд╖рд╛рдИ рд╡рд┐рд╢реНрд▓реЗрд╖рдг рдФрд░ AI рд░рд┐рд╕рд░реНрдЪ рдХреЗ рд▓рд┐рдП рдПрдХ рд╢рдХреНрддрд┐рд╢рд╛рд▓реА рд╕рдВрд╕рд╛рдзрди рд╣реИ, рдЬреЛ рднрд╛рд╖рд╛ рдкреИрдЯрд░реНрди, AI рд╡реНрдпрд╡рд╣рд╛рд░ рдЖрджрд┐ рдкрд░ рдЕрдВрддрд░реНрджреГрд╖реНрдЯрд┐ рдкреНрд░рджрд╛рди рдХрд░рддрд╛ рд╣реИредтАи

BLOOM рдХреЗ рджрд╛рдпрд░реЗ рд╕реЗ рдмрд╛рд╣рд░ рдЙрдкрдпреЛрдЧ

BLOOM рдХреА рд╕реАрдорд╛рдУрдВ рдХреЛ рд╕рдордЭрдирд╛ рдЗрд╕рдХреЗ рдиреИрддрд┐рдХ рдФрд░ рд╡реНрдпрд╛рд╡рд╣рд╛рд░рд┐рдХ рдЕрдиреБрдкреНрд░рдпреЛрдЧ рдХреЗ рд▓рд┐рдП рдЖрд╡рд╢реНрдпрдХ рд╣реИред рдХреБрдЫ рдЙрдкрдпреЛрдЧ рдорд╛рдорд▓реЗ BLOOM LLM рдХреЗ рдЙрджреНрджреЗрд╢реНрдпрд┐рдд рджрд╛рдпрд░реЗ рд╕реЗ рдмрд╛рд╣рд░ рдЖрддреЗ рд╣реИрдВ, рдореБрдЦреНрдпрддрдГ рдиреИрддрд┐рдХ рд╡рд┐рдЪрд╛рд░реЛрдВ рдпрд╛ рддрдХрдиреАрдХреА рдмрд╛рдзрд╛рдУрдВ рдХреЗ рдХрд╛рд░рдгред

  • рд╕рдВрд╡реЗрджрдирд╢реАрд▓ рдбреЗрдЯрд╛ рдХрд╛ рдкреНрд░рдмрдВрдзрди: BLOOM рд╕рдВрд╡реЗрджрдирд╢реАрд▓ рд╡реНрдпрдХреНрддрд┐рдЧрдд рдбреЗрдЯрд╛ рдпрд╛ рдЧреЛрдкрдиреАрдп рдЬрд╛рдирдХрд╛рд░реА рд╕рдВрд╕рд╛рдзрд┐рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдбрд┐рдЬрд╝рд╛рдЗрди рдирд╣реАрдВ рдХрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИред рдЧреЛрдкрдиреАрдпрддрд╛ рдЙрд▓реНрд▓рдВрдШрдиреЛрдВ рдпрд╛ рдРрд╕реЗ рдбреЗрдЯрд╛ рдХреЗ рджреБрд░реБрдкрдпреЛрдЧ рдХреА рд╕рдВрднрд╛рд╡рдирд╛ рдЗрд╕реЗ рдЗрди рдЙрджреНрджреЗрд╢реНрдпреЛрдВ рдХреЗ рд▓рд┐рдП рдЕрдиреБрдкрдпреБрдХреНрдд рдмрдирд╛рддреА рд╣реИредтАи
  • рдЙрдЪреНрдЪ-рдЬреЛрдЦрд┐рдо рд╡рд╛рд▓реЗ рдирд┐рд░реНрдгрдп: рдЪрд┐рдХрд┐рддреНрд╕рд╛ рдирд┐рджрд╛рди рдпрд╛ рдХрд╛рдиреВрдиреА рдирд┐рд░реНрдгрдп рдЬреИрд╕реЗ рдкрд░рд┐рджреГрд╢реНрдпреЛрдВ рдореЗрдВ, рдЬрд╣рд╛рдБ рдЕрддреНрдпрдзрд┐рдХ рд╢реБрджреНрдзрддрд╛ рдЖрд╡рд╢реНрдпрдХ рд╣реИ, BLOOM рдХрд╛ рдЙрдкрдпреЛрдЧ рдЙрдЪрд┐рдд рдирд╣реАрдВ рд╣реИред рдЕрдзрд┐рдХрд╛рдВрд╢ рдмрдбрд╝реЗ рднрд╛рд╖рд╛ рдореЙрдбрд▓реЛрдВ рдХреА рддрд░рд╣ рдЗрд╕рдХреА рд╕реАрдорд╛рдПрдБ рдЗрди рд╕рдВрд╡реЗрджрдирд╢реАрд▓ рдХреНрд╖реЗрддреНрд░реЛрдВ рдореЗрдВ рдЧрд▓рдд рдпрд╛ рднреНрд░рд╛рдордХ рдкрд░рд┐рдгрд╛рдо рджреЗ рд╕рдХрддреА рд╣реИрдВредтАи
  • рдорд╛рдирд╡реАрдп рд╕рдВрд╡рд╛рдж рдХрд╛ рдкреНрд░рддрд┐рд╕реНрдерд╛рдкрди: рд╡рд┐рд╢реЗрд╖ рд░реВрдк рд╕реЗ рдкрд░рд╛рдорд░реНрд╢, рдХреВрдЯрдиреАрддрд┐ рдпрд╛ рд╡реИрдпрдХреНрддрд┐рдХ рд╢рд┐рдХреНрд╖рдг рдЬреИрд╕реЗ рднрд╛рд╡рдирд╛рддреНрдордХ рдмреБрджреНрдзрд┐рдорддреНрддрд╛ рдХреА рдЖрд╡рд╢реНрдпрдХрддрд╛ рд╡рд╛рд▓реЗ рдХреНрд╖реЗрддреНрд░реЛрдВ рдореЗрдВ, BLOOM рдХреЛ рдорд╛рдирд╡реАрдп рд╕рдВрд╡рд╛рдж рдХреЗ рд╡рд┐рдХрд▓реНрдк рдХреЗ рд░реВрдк рдореЗрдВ рдирд╣реАрдВ рджреЗрдЦрд╛ рдЬрд╛рдирд╛ рдЪрд╛рд╣рд┐рдПред рдореЙрдбрд▓ рдореЗрдВ рд╡рд╣ рд╕реВрдХреНрд╖реНрдо рд╕рдордЭ рдФрд░ рд╕рд╣рд╛рдиреБрднреВрддрд┐ рдирд╣реАрдВ рд╣реИ рдЬреЛ рдорд╛рдирд╡реАрдп рдмрд╛рддрдЪреАрдд рдкреНрд░рджрд╛рди рдХрд░рддреА рд╣реИред

рдкреНрд░рддреНрдпрдХреНрд╖ рдФрд░ рдкрд░реЛрдХреНрд╖ рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛

рдПрдХ рдЙрдиреНрдирдд Large Language Model (LLM) рдХреЗ рд░реВрдк рдореЗрдВ, BLOOM рд╡рд┐рднрд┐рдиреНрди рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛ рд╕рдореВрд╣реЛрдВ рддрдХ рдлреИрд▓реЗ рд╡реНрдпрд╛рдкрдХ рд▓рд╛рдн рдкреНрд░рджрд╛рди рдХрд░рддрд╛ рд╣реИред рдЗрд╕рдХреА рдХреНрд╖рдорддрд╛рдПрдБ рди рдХреЗрд╡рд▓ рдХреБрдЫ рдкреЗрд╢реЗрд╡рд░реЛрдВ рдФрд░ рдХреНрд╖реЗрддреНрд░реЛрдВ рдХреЛ рд╕реАрдзреЗ рдкреНрд░рднрд╛рд╡рд┐рдд рдХрд░рддреА рд╣реИрдВ, рдмрд▓реНрдХрд┐ рд╡реНрдпрд╛рдкрдХ рд╕реНрддрд░ рдкрд░ рд╡рд┐рднрд┐рдиреНрди рд╣рд┐рддрдзрд╛рд░рдХреЛрдВ рдкрд░ рдкрд░реЛрдХреНрд╖ рдкреНрд░рднрд╛рд╡ рднреА рдбрд╛рд▓рддреА рд╣реИрдВред

BLOOM рдХреЗ рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛рдУрдВ рдХреА рдпрд╣ рдкрдбрд╝рддрд╛рд▓ рджрд░реНрд╢рд╛рддреА рд╣реИ рдХрд┐ рдЕрд▓рдЧ-рдЕрд▓рдЧ рд╕рдореВрд╣ рдЗрд╕ рдирд╡рд╛рдЪрд╛рд░рдкреВрд░реНрдг рдЙрдкрдХрд░рдг рдХрд╛ рдХреИрд╕реЗ рд▓рд╛рдн рдЙрдард╛рддреЗ рд╣реИрдВ рдФрд░ рдЗрд╕рд╕реЗ рдХреИрд╕реЗ рдкреНрд░рднрд╛рд╡рд┐рдд рд╣реЛрддреЗ рд╣реИрдВред

BLOOM рдХреЗ рдкреНрд░рддреНрдпрдХреНрд╖ рдФрд░ рдкрд░реЛрдХреНрд╖ рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛рдУрдВ рдХреЛ рд╕рдордЭрдХрд░, рд╣рдо рдореЙрдбрд▓ рдХреЗ рд╡реНрдпрд╛рдкрдХ рдкреНрд░рднрд╛рд╡ рдФрд░ рдЙрди рд╡рд┐рд╡рд┐рдз рддрд░реАрдХреЛрдВ рдХреА рд╕рд░рд╛рд╣рдирд╛ рдХрд░ рд╕рдХрддреЗ рд╣реИрдВ рдЬрд┐рдирд╕реЗ рдпрд╣ рддрдХрдиреАрдХ рдФрд░ рд╕рдорд╛рдЬ рдХреЛ рдЖрдЧреЗ рдмрдврд╝рд╛рдиреЗ рдореЗрдВ рдпреЛрдЧрджрд╛рди рджреЗрддрд╛ рд╣реИред

BLOOM рдХреЗ рдкреНрд░рддреНрдпрдХреНрд╖ рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛

  • рдбреЗрд╡рд▓рдкрд░реНрд╕ рдФрд░ рдбреЗрдЯрд╛ рд╡реИрдЬреНрдЮрд╛рдирд┐рдХ: рд╕реЙрдлреНрдЯрд╡реЗрдпрд░ рд╡рд┐рдХрд╛рд╕ рдФрд░ рдбреЗрдЯрд╛ рд╡рд┐рдЬреНрдЮрд╛рди рдХреЗ рдкреЗрд╢реЗрд╡рд░ рдкреНрд░рд╛рдердорд┐рдХ рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛ рд╣реИрдВред рд╡реЗ рдХреЛрдбрд┐рдВрдЧ рд╕рд╣рд╛рдпрддрд╛, рдбреАрдмрдЧрд┐рдВрдЧ рдФрд░ рдбреЗрдЯрд╛ рд╡рд┐рд╢реНрд▓реЗрд╖рдг рдЬреИрд╕реЗ рдХрд╛рд░реНрдпреЛрдВ рдХреЗ рд▓рд┐рдП BLOOM рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддреЗ рд╣реИрдВред
  • рд╢реЛрдзрдХрд░реНрддрд╛ рдФрд░ рдЕрдХрд╛рджрдорд┐рдХ: рдЗрд╕ рд╕рдореВрд╣ рдореЗрдВ рднрд╛рд╖рд╛рд╡рд┐рджреН, AI рд╢реЛрдзрдХрд░реНрддрд╛ рдФрд░ рдЕрдХрд╛рджрдорд┐рдХ рд╢рд╛рдорд┐рд▓ рд╣реИрдВ, рдЬреЛ рднрд╛рд╖рд╛ рдЕрдзреНрдпрдпрди, AI рд╡реНрдпрд╡рд╣рд╛рд░ рд╡рд┐рд╢реНрд▓реЗрд╖рдг рдФрд░ NLP рд╢реЛрдз рдХреЛ рдЖрдЧреЗ рдмрдврд╝рд╛рдиреЗ рдХреЗ рд▓рд┐рдП BLOOM рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддреЗ рд╣реИрдВред
  • рдХрдВрдЯреЗрдВрдЯ рдХреНрд░рд┐рдПрдЯрд░реНрд╕ рдФрд░ рдЕрдиреБрд╡рд╛рджрдХ: рд▓реЗрдЦрдХ, рдкрддреНрд░рдХрд╛рд░ рдФрд░ рдЕрдиреБрд╡рд╛рджрдХ рд╡рд┐рднрд┐рдиреНрди рднрд╛рд╖рд╛рдУрдВ рдореЗрдВ рд╕рд╛рдордЧреНрд░реА рдЬрдирд░реЗрдЯ рдХрд░рдиреЗ рдФрд░ рдЕрдиреБрд╡рд╛рдж рдХреЗ рд▓рд┐рдП BLOOM рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддреЗ рд╣реИрдВ, рдЬрд┐рд╕рд╕реЗ рдЙрдирдХреА рдЙрддреНрдкрд╛рджрдХрддрд╛ рдФрд░ рдкрд╣реБрдВрдЪ рдмрдврд╝рддреА рд╣реИред

BLOOM рдХреЗ рдкрд░реЛрдХреНрд╖ рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛

  • рд╡реНрдпрд╡рд╕рд╛рдп рдФрд░ рд╕рдВрдЧрдарди: рд╡рд┐рднрд┐рдиреНрди рд╕реЗрдХреНрдЯрд░реНрд╕ рдХреА рдХрдВрдкрдирд┐рдпрд╛рдБ BLOOM рд╕реЗ рдкрд░реЛрдХреНрд╖ рд░реВрдк рд╕реЗ рд▓рд╛рднрд╛рдиреНрд╡рд┐рдд рд╣реЛрддреА рд╣реИрдВтАФрдЙрдиреНрдирдд AI-рдЖрдзрд╛рд░рд┐рдд рд╕реЗрд╡рд╛рдПрдБ, рдмреЗрд╣рддрд░ рдЧреНрд░рд╛рд╣рдХ рд╕рдВрд╡рд╛рдж рдФрд░ рдХреБрд╢рд▓ рдбреЗрдЯрд╛ рдкреНрд░рдмрдВрдзрди рдХреЗ рдорд╛рдзреНрдпрдо рд╕реЗред
  • рд╢реИрдХреНрд╖рдгрд┐рдХ рд╕рдВрд╕реНрдерд╛рди: рд╡рд┐рджреНрдпрд╛рд░реНрдереА рдФрд░ рд╢рд┐рдХреНрд╖рдХ рдРрд╕реЗ рд╢реИрдХреНрд╖рд┐рдХ рдЯреВрд▓реНрд╕ рдФрд░ рд╕рдВрд╕рд╛рдзрдиреЛрдВ рдХреЗ рдЬрд░рд┐рдП рдкрд░реЛрдХреНрд╖ рд░реВрдк рд╕реЗ рд▓рд╛рдн рдЙрдард╛рддреЗ рд╣реИрдВ рдЬреЛ рд╕реАрдЦрдиреЗ- рд╕рд┐рдЦрд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдЗрд╕рдХреА рднрд╛рд╖рд╛ рдкреНрд░реЛрд╕реЗрд╕рд┐рдВрдЧ рдХреНрд╖рдорддрд╛рдУрдВ рдХреЛ рд╢рд╛рдорд┐рд▓ рдХрд░рддреЗ рд╣реИрдВред
  • рд╕рд╛рдорд╛рдиреНрдп рдЬрдирддрд╛: рд╡реНрдпрд╛рдкрдХ рд╕рдореБрджрд╛рдп рдХреЛ рдмреЗрд╣рддрд░ рддрдХрдиреАрдХреА рдЕрдиреБрднрд╡, рдмрд╣реБрднрд╛рд╖реА рд╕рд╛рдордЧреНрд░реА рддрдХ рдкрд╣реБрдБрдЪ рдФрд░ рдЙрдиреНрдирдд рд╕реЙрдлреНрдЯрд╡реЗрдпрд░ рдЕрдиреБрдкреНрд░рдпреЛрдЧреЛрдВ рдХреЗ рдорд╛рдзреНрдпрдо рд╕реЗ рдкрд░реЛрдХреНрд╖ рд▓рд╛рдн рдорд┐рд▓рддрд╛ рд╣реИред

рдиреИрддрд┐рдХ рд╡рд┐рдЪрд╛рд░ рдФрд░ рд╕реАрдорд╛рдПрдБ

BLOOM рдЬреИрд╕реЗ рдХрд┐рд╕реА рднреА Large Language Model (LLM) рдХреА рддреИрдирд╛рддреА рдЕрдкрдиреЗ рд╕рд╛рде рдХрдИ рдиреИрддрд┐рдХ рд╡рд┐рдЪрд╛рд░реЛрдВ рдФрд░ рд╕реАрдорд╛рдУрдВ рдХреЛ рд▓реЗрдХрд░ рдЖрддреА рд╣реИред рдЬрд┐рдореНрдореЗрджрд╛рд░ рдЙрдкрдпреЛрдЧ рдФрд░ рддрдХрдиреАрдХ рдХреЗ рд╡реНрдпрд╛рдкрдХ рдкреНрд░рднрд╛рд╡ рдХрд╛ рдкреВрд░реНрд╡рд╛рдиреБрдорд╛рди рд▓рдЧрд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдЗрди рдкрд╣рд▓реБрдУрдВ рдХреЛ рд╕рдордЭрдирд╛ рдЕрддреНрдпрдВрдд рдорд╣рддреНрд╡рдкреВрд░реНрдг рд╣реИред рдпрд╣ рдЕрдиреБрднрд╛рдЧ BLOOM рдХреЗ рдЙрдкрдпреЛрдЧ рд╕реЗ рдЬреБрдбрд╝реЗ рдиреИрддрд┐рдХ рдирд┐рд╣рд┐рддрд╛рд░реНрде, рдЬреЛрдЦрд┐рдо рдФрд░ рдЕрдВрддрд░реНрдирд┐рд╣рд┐рдд рд╕реАрдорд╛рдУрдВ рдХреЛ рд╕рдВрдмреЛрдзрд┐рдд рдХрд░рддрд╛ рд╣реИред

рдиреИрддрд┐рдХ рд╡рд┐рдЪрд╛рд░

  • рдбреЗрдЯрд╛ рдкреВрд░реНрд╡рд╛рдЧреНрд░рд╣ рдФрд░ рдирд┐рд╖реНрдкрдХреНрд╖рддрд╛: рдореБрдЦреНрдп рдиреИрддрд┐рдХ рдЪрд┐рдВрддрд╛рдУрдВ рдореЗрдВ рд╕реЗ рдПрдХ рдпрд╣ рд╣реИ рдХрд┐ BLOOM рдЕрдкрдиреЗ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдбреЗрдЯрд╛ рдореЗрдВ рдореМрдЬреВрдж рдкреВрд░реНрд╡рд╛рдЧреНрд░рд╣реЛрдВ рдХреЛ рдмрд░рдХрд░рд╛рд░ рд░рдЦ рд╕рдХрддрд╛ рд╣реИ рдпрд╛ рдмрдврд╝рд╛ рд╕рдХрддрд╛ рд╣реИред рдЗрд╕рд╕реЗ рдЗрд╕рдХреЗ рдЖрдЙрдЯрдкреБрдЯ рдХреА рдирд┐рд╖реНрдкрдХреНрд╖рддрд╛ рдФрд░ рддрдЯрд╕реНрдерддрд╛ рдкреНрд░рднрд╛рд╡рд┐рдд рд╣реЛ рд╕рдХрддреА рд╣реИ, рд╡рд┐рд╢реЗрд╖рдХрд░ рдЙрди рдкрд░рд┐рджреГрд╢реНрдпреЛрдВ рдореЗрдВ рдЬрд╣рд╛рдБ рдирд┐рд╖реНрдкрдХреНрд╖ рдкреНрд░реЛрд╕реЗрд╕рд┐рдВрдЧ рдорд╣рддреНрд╡рдкреВрд░реНрдг рд╣реИред
  • рдЧреЛрдкрдиреАрдпрддрд╛ рд╕рдВрдмрдВрдзреА рдЪрд┐рдВрддрд╛рдПрдБ: рдпрджреНрдпрдкрд┐ BLOOM рд╕рдВрд╡реЗрджрдирд╢реАрд▓ рд╡реНрдпрдХреНрддрд┐рдЧрдд рдЬрд╛рдирдХрд╛рд░реА рдХреЛ рд╕рдВрднрд╛рд▓рдиреЗ рдХреЗ рд▓рд┐рдП рд╕реНрдкрд╖реНрдЯ рд░реВрдк рд╕реЗ рдбрд┐рдЬрд╝рд╛рдЗрди рдирд╣реАрдВ рдХрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИ, рдЗрд╕рдХреЗ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдбреЗрдЯрд╛ рдХреА рд╡рд┐рд╢рд╛рд▓рддрд╛ рдореЗрдВ рдЕрдирдЬрд╛рдиреЗ рдореЗрдВ рдРрд╕реА рдЬрд╛рдирдХрд╛рд░реА рд╢рд╛рдорд┐рд▓ рд╣реЛ рд╕рдХрддреА рд╣реИред рдпрджрд┐ BLOOM рд╕рдВрд╡реЗрджрдирд╢реАрд▓ рдбреЗрдЯрд╛ рдкрд░ рдЖрдзрд╛рд░рд┐рдд рдпрд╛ рдЙрд╕реЗ рдЙрдЬрд╛рдЧрд░ рдХрд░рдиреЗ рд╡рд╛рд▓реЗ рдЖрдЙрдЯрдкреБрдЯ рдЙрддреНрдкрдиреНрди рдХрд░рддрд╛ рд╣реИ, рддреЛ рдЧреЛрдкрдиреАрдпрддрд╛ рдЙрд▓реНрд▓рдВрдШрди рдХрд╛ рдЬреЛрдЦрд┐рдо рд╣реИред

рдЙрдкрдпреЛрдЧ рд╕реЗ рдЬреБрдбрд╝реЗ рдЬреЛрдЦрд┐рдо

  • рднреНрд░рдорд┐рдд рдХрд░рдиреЗ рд╡рд╛рд▓реА рдЬрд╛рдирдХрд╛рд░реА рдФрд░ рд╣реЗрд░рдлреЗрд░: BLOOM рдХреА рдЙрдиреНрдирдд рдХреНрд╖рдорддрд╛рдУрдВ рдХрд╛ рджреБрд░реБрдкрдпреЛрдЧ рднреНрд░рд╛рдордХ рдЬрд╛рдирдХрд╛рд░реА рдпрд╛ рд╣реЗрд░рдлреЗрд░рдХрд╛рд░реА рд╕рд╛рдордЧреНрд░реА рдЬрдирд░реЗрдЯ рдХрд░рдиреЗ рдореЗрдВ рдХрд┐рдпрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИ, рдЬреЛ рдореАрдбрд┐рдпрд╛, рд░рд╛рдЬрдиреАрддрд┐ рдФрд░ рдЬрдирдордд рдЬреИрд╕реЗ рдХреНрд╖реЗрддреНрд░реЛрдВ рдореЗрдВ рдорд╣рддреНрд╡рдкреВрд░реНрдг рдЬреЛрдЦрд┐рдо рдкреИрджрд╛ рдХрд░рддрд╛ рд╣реИред
  • рдирд┐рд░реНрднрд░рддрд╛ рдФрд░ рдХреМрд╢рд▓-рд╣реНрд░рд╛рд╕: рдХрдВрдЯреЗрдВрдЯ рдирд┐рд░реНрдорд╛рдг рдпрд╛ рдЕрдиреБрд╡рд╛рдж рдЬреИрд╕реЗ рдХрд╛рд░реНрдпреЛрдВ рдореЗрдВ BLOOM рдкрд░ рдЕрддреНрдпрдзрд┐рдХ рдирд┐рд░реНрднрд░рддрд╛ рдорд╛рдирд╡ рдХреНрд╖рдорддрд╛рдУрдВ рдореЗрдВ рд╣реНрд░рд╛рд╕ рдХрд╛ рдХрд╛рд░рдг рдмрди рд╕рдХрддреА рд╣реИ, рдЬрд┐рд╕рд╕реЗ рд░рдЪрдирд╛рддреНрдордХрддрд╛ рдФрд░ рднрд╛рд╖рд╛рдпреА рдХреМрд╢рд▓ рдкреНрд░рднрд╛рд╡рд┐рдд рд╣реЛрддреЗ рд╣реИрдВред

BLOOM рдХреА рд╕реАрдорд╛рдПрдБ

  • рд╕рдВрджрд░реНрднрд╛рддреНрдордХ рд╕рдордЭ: рдЕрдкрдиреА рдкрд░рд┐рд╖реНрдХреГрддрддрд╛ рдХреЗ рдмрд╛рд╡рдЬреВрдж, BLOOM рдХреБрдЫ рдХрд╛рд░реНрдпреЛрдВ рдХреЗ рд▓рд┐рдП рдЖрд╡рд╢реНрдпрдХ рдЧрд╣рд░реА рд╕рдВрджрд░реНрднрд╛рддреНрдордХ рдФрд░ рд╕рд╛рдВрд╕реНрдХреГрддрд┐рдХ рд╕рдордЭ рдореЗрдВ рдХрдореА рд░рдЦ рд╕рдХрддрд╛ рд╣реИ, рдЬрд┐рд╕рд╕реЗ рд╕реВрдХреНрд╖реНрдо рдкрд░рд┐рджреГрд╢реНрдпреЛрдВ рдореЗрдВ рдЕрд╢реБрджреНрдзрд┐рдпрд╛рдБ рдпрд╛ рдЕрдиреБрдкрдпреБрдХреНрдд рдЖрдЙрдЯрдкреБрдЯ рд╣реЛ рд╕рдХрддреЗ рд╣реИрдВред
  • рднрд╛рд╖рд╛ рдХрд╛ рдмрджрд▓рддрд╛ рд╕реНрд╡рд░реВрдк: рд╕реНрдерд┐рд░ рдбреЗрдЯрд╛рд╕реЗрдЯ рдкрд░ рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рд╣реЛрдиреЗ рдХреЗ рдХрд╛рд░рдг, BLOOM рднрд╛рд╖рд╛ рдХреЗ рдмрджрд▓рддреЗ рд╕реНрд╡рд░реВрдктАФрдирдП рд╕реНрд▓реИрдВрдЧ, рд╢рдмреНрджрд╛рд╡рд▓реА рдпрд╛ рд╕рд╛рдВрд╕реНрдХреГрддрд┐рдХ рд╕рдВрджрд░реНрднтАФрдХреЗ рд╕рд╛рде рдХрджрдорддрд╛рд▓ рди рдХрд░ рдкрд╛рдПред

рд╡рд╛рд╕реНрддрд╡рд┐рдХ рджреБрдирд┐рдпрд╛ рдкрд░ рдкреНрд░рднрд╛рд╡ рдФрд░ рд╡рд┐рд╡рд╛рдж

BLOOM рдХрд╛ рд╡рд┐рдХрд╛рд╕ рдФрд░ рд░рд┐рд▓реАрдЬрд╝ рд╡рд╛рд╕реНрддрд╡рд┐рдХ рджреБрдирд┐рдпрд╛ рдореЗрдВ рдорд╣рддреНрд╡рдкреВрд░реНрдг рдирд┐рд╣рд┐рддрд╛рд░реНрде рд░рдЦрддрд╛ рд╣реИтАФрдЗрд╕рдХреЗ рдкреНрд░рднрд╛рд╡ рдХреЗ рд╕рд╛рде-рд╕рд╛рде рдЙрддреНрдкрдиреНрди рд╣реЛрдиреЗ рд╡рд╛рд▓реЗ рд╡рд┐рд╡рд╛рджреЛрдВ рдХреЗ рд╕рдВрджрд░реНрдн рдореЗрдВред рдпрд╣ рдЕрдиреБрднрд╛рдЧ BLOOM рдХреЗ рд╢реЛрдз-рдкрддреНрд░ рд╕реЗ рдорд┐рд▓реА рдЕрдВрддрд░реНрджреГрд╖реНрдЯрд┐рдпреЛрдВ рдХреЗ рдЖрдзрд╛рд░ рдкрд░ рдЗрди рдкрд╣рд▓реБрдУрдВ рдкрд░ рдЪрд░реНрдЪрд╛ рдХрд░рддрд╛ рд╣реИред

BLOOM рдХрд╛ рд╡рд╛рд╕реНрддрд╡рд┐рдХ рдкреНрд░рднрд╛рд╡

  • AI рддрдХрдиреАрдХ рдХрд╛ рд▓реЛрдХрддрдВрддреНрд░реАрдХрд░рдг: BLOOM AI рддрдХрдиреАрдХ рдХреЗ рд▓реЛрдХрддрдВрддреНрд░реАрдХрд░рдг рдХреА рджрд┐рд╢рд╛ рдореЗрдВ рдПрдХ рдХрджрдо рд╣реИред BigScience рджреНрд╡рд╛рд░рд╛ рд╡рд┐рдХрд╕рд┐рдд, рдЬрд┐рд╕рдореЗрдВ 38 рджреЗрд╢реЛрдВ рдХреЗ 1200 рд╕реЗ рдЕрдзрд┐рдХ рд▓реЛрдЧреЛрдВ рдХрд╛ рд╕рд╣рдпреЛрдЧ рд╢рд╛рдорд┐рд▓ рдерд╛, BLOOM 59 рднрд╛рд╖рд╛рдУрдВ рдХреЛ рдХрд╡рд░ рдХрд░рдиреЗ рд╡рд╛рд▓реЗ рд╡рд┐рд╡рд┐рдз рдХреЙрд░реНрдкрд╕ рдкрд░ рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рдПрдХ рдУрдкрди-рдПрдХреНрд╕реЗрд╕ рдореЙрдбрд▓ рд╣реИтАЛтАЛред рдпрд╣ рд╡реНрдпрд╛рдкрдХ рднрд╛рдЧреАрджрд╛рд░реА рдФрд░ рд╕реБрд▓рднрддрд╛ рдмрдбрд╝реЗ рднрд╛рд╖рд╛ рдореЙрдбрд▓реЛрдВ рдХреЗ рд╡рд┐рдХрд╛рд╕ рдореЗрдВ рдЖрдорддреМрд░ рдкрд░ рджреЗрдЦреА рдЬрд╛рдиреЗ рд╡рд╛рд▓реА рд╡рд┐рд╢рд┐рд╖реНрдЯрддрд╛ рд╕реЗ рдЕрд▓рдЧ рджрд┐рд╢рд╛ рджрд┐рдЦрд╛рддреА рд╣реИред
  • рд╡рд┐рд╡рд┐рдзрддрд╛ рдФрд░ рд╕рдорд╛рд╡реЗрд╢рди: рднрд╛рд╖рд╛рдИ, рднреМрдЧреЛрд▓рд┐рдХ рдФрд░ рд╡реИрдЬреНрдЮрд╛рдирд┐рдХ рд╡рд┐рд╡рд┐рдзрддрд╛ рдХреЗ рдкреНрд░рддрд┐ рдкреНрд░реЛрдЬреЗрдХреНрдЯ рдХреА рдкреНрд░рддрд┐рдмрджреНрдзрддрд╛ рдЙрд▓реНрд▓реЗрдЦрдиреАрдп рд╣реИред BLOOM рдХреЗ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдХреЗ рд▓рд┐рдП рдЙрдкрдпреЛрдЧ рдХрд┐рдпрд╛ рдЧрдпрд╛ ROOTS рдХреЙрд░реНрдкрд╕ рдХрдИ рднрд╛рд╖рд╛рдУрдВ рдФрд░ рдкреНрд░реЛрдЧреНрд░рд╛рдорд┐рдВрдЧ рднрд╛рд╖рд╛рдУрдВ рдореЗрдВ рдлреИрд▓рд╛ рд╣реИ, рдЬреЛ AI рд╡рд┐рдХрд╛рд╕ рдореЗрдВ рд╕рдорд╛рд╡реЗрд╢рди рдФрд░ рдкреНрд░рддрд┐рдирд┐рдзрд┐рддреНрд╡ рдкрд░ рдЬреЛрд░ рдХреЛ рджрд░реНрд╢рд╛рддрд╛ рд╣реИред

рд╡рд┐рд╡рд╛рдж рдФрд░ рдЪреБрдиреМрддрд┐рдпрд╛рдБ

  • рд╕рд╛рдорд╛рдЬрд┐рдХ рдФрд░ рдиреИрддрд┐рдХ рдЪрд┐рдВрддрд╛рдПрдБ: BLOOM рдХрд╛ рд╡рд┐рдХрд╛рд╕ рдмрдбрд╝реЗ рднрд╛рд╖рд╛ рдореЙрдбрд▓реЛрдВ рдХреЗ рд╡рд┐рдХрд╛рд╕ рдореЗрдВ рд╕рд╛рдорд╛рдЬрд┐рдХ рд╕реАрдорд╛рдУрдВ рдФрд░ рдиреИрддрд┐рдХ рдЪреБрдиреМрддрд┐рдпреЛрдВ рдХреЛ рд╕реНрд╡реАрдХрд╛рд░ рдХрд░рддрд╛ рд╣реИред BigScience рдХрд╛рд░реНрдпрд╢рд╛рд▓рд╛ рдиреЗ рдкрд░рд┐рдпреЛрдЬрдирд╛ рдХреЗ рдорд╛рд░реНрдЧрджрд░реНрд╢рди рдХреЗ рд▓рд┐рдП рдПрдХ Ethical Charter рдЕрдкрдирд╛рдпрд╛, рдЬрд┐рд╕рдореЗрдВ рд╕рдорд╛рд╡реЗрд╢рди, рд╡рд┐рд╡рд┐рдзрддрд╛, рдЦреБрд▓рд╛рдкрди, рдкреБрдирд░реБрддреНрдкрд╛рджрдирд╢реАрд▓рддрд╛ рдФрд░ рдЬрд┐рдореНрдореЗрджрд╛рд░реА рдкрд░ рдЬреЛрд░ рджрд┐рдпрд╛ рдЧрдпрд╛ред рдпреЗ рд╕рд┐рджреНрдзрд╛рдВрдд рдкрд░рд┐рдпреЛрдЬрдирд╛ рдХреЗ рд╡рд┐рднрд┐рдиреНрди рдкрд╣рд▓реБрдУрдВтАФрдбреЗрдЯрд╛рд╕реЗрдЯ рдХреНрдпреВрд░реЗрд╢рди рд╕реЗ рд▓реЗрдХрд░ рдореЙрдбрд▓ рдореВрд▓реНрдпрд╛рдВрдХрдитАФрдореЗрдВ рд╕рдорд╛рд╣рд┐рдд рдереЗтАЛтАЛред
  • рдкрд░реНрдпрд╛рд╡рд░рдг рдФрд░ рд╕рдВрд╕рд╛рдзрди рд╕рдВрдмрдВрдзреА рдЪрд┐рдВрддрд╛рдПрдБ: BLOOM рдЬреИрд╕реЗ рдмрдбрд╝реЗ рднрд╛рд╖рд╛ рдореЙрдбрд▓реЛрдВ рдХреЗ рд╡рд┐рдХрд╛рд╕ рдиреЗ рдЖрд╡рд╢реНрдпрдХ рд╡рд┐рд╢рд╛рд▓ рд╕рдВрдЧрдгрдирд╛рддреНрдордХ рд╕рдВрд╕рд╛рдзрдиреЛрдВ рдХреЗ рдХрд╛рд░рдг рдкрд░реНрдпрд╛рд╡рд░рдг рд╕рдВрдмрдВрдзреА рдЪрд┐рдВрддрд╛рдПрдБ рдмрдврд╝рд╛рдИ рд╣реИрдВред рдЗрди рдореЙрдбрд▓реЛрдВ рдХрд╛ рдкреНрд░рд╢рд┐рдХреНрд╖рдг, рдЬреЛ рд╕рд╛рдорд╛рдиреНрдпрддрдГ рдХреЗрд╡рд▓ рд╕рдореГрджреНрдз рд╕рдВрд╕рд╛рдзрдиреЛрдВ рд╡рд╛рд▓реЗ рд╕рдВрдЧрдардиреЛрдВ рдХреЗ рд▓рд┐рдП рд╡рд╣рдиреАрдп рд╣реЛрддрд╛ рд╣реИ, рдКрд░реНрдЬрд╛ рдЦрдкрдд рдФрд░ рдХрд╛рд░реНрдмрди рдлреБрдЯрдкреНрд░рд┐рдВрдЯ рдкрд░ рдкреНрд░рднрд╛рд╡ рдбрд╛рд▓рддрд╛ рд╣реИтАЛред

рдХреНрдпрд╛ рдЖрдЬ рднреА BLOOM рдкреНрд░рд╛рд╕рдВрдЧрд┐рдХ рд╣реИ?

рдХреГрддреНрд░рд┐рдо рдмреБрджреНрдзрд┐рдорддреНрддрд╛ (AI) рдХреА рддреЗрдЬрд╝ рд░рдлреНрддрд╛рд░ рджреБрдирд┐рдпрд╛ рдореЗрдВ, BLOOM рдЬреИрд╕реЗ Large Language Models (LLMs) рдХреА рдкреНрд░рд╛рд╕рдВрдЧрд┐рдХрддрд╛ рдкрд░ рдЪрд░реНрдЪрд╛ рдЬрд╛рд░реА рд╣реИред

рдЕрдВрддрд░рд░рд╛рд╖реНрдЯреНрд░реАрдп рд╢реЛрдзрдХрд░реНрддрд╛рдУрдВ рдХреА рдмрдбрд╝реА рдЯреАрдо рджреНрд╡рд╛рд░рд╛ рд╡рд┐рдХрд╕рд┐рдд, BLOOM рднрд╛рд╖рд╛ рдкреНрд░реЛрд╕реЗрд╕рд┐рдВрдЧ рдореЗрдВ рдПрдХ рдорд╣рддреНрд╡рдкреВрд░реНрдг рдЫрд▓рд╛рдВрдЧ рдерд╛ред рд╣рд╛рд▓рд╛рдВрдХрд┐, AI рдкрд░рд┐рджреГрд╢реНрдп рд▓рдЧрд╛рддрд╛рд░ рд╡рд┐рдХрд╕рд┐рдд рд╣реЛ рд░рд╣рд╛ рд╣реИтАФрдирдП рдореЙрдбрд▓реЛрдВ рдХреЗ рдЙрднрд░рдиреЗ рд╕реЗ рдлреЛрдХрд╕ рдмрджрд▓рддрд╛ рд░рд╣рддрд╛ рд╣реИред

рдЖрдЗрдП рджреЗрдЦреЗрдВ рдХрд┐ рдХреНрдпрд╛ BLOOM рдЕрдм рднреА рдЗрд╕ рдкреНрд░рддрд┐рд╕реНрдкрд░реНрдзреА рдХреНрд╖реЗрддреНрд░ рдореЗрдВ рдЕрдкрдиреА рдкрдХрдбрд╝ рдмрдирд╛рдП рд╣реБрдП рд╣реИред

  • рдлреЛрдХрд╕ рдореЗрдВ рдмрджрд▓рд╛рд╡: рдкреНрд░рд╛рд░рдВрдн рдореЗрдВ рдПрдХ рдмрдбрд╝реА рдЙрдкрд▓рдмреНрдзрд┐ рд╣реЛрдиреЗ рдХреЗ рдмрд╛рд╡рдЬреВрдж, рдЕрдм BLOOM рдирдП рдореЙрдбрд▓реЛрдВ рдХреА рдЫрд╛рдпрд╛ рдореЗрдВ рд╣реИред ChatGPT рдЬреИрд╕реЗ рд╕рдВрд╡рд╛рджрд╛рддреНрдордХ AI рдХреЗ рд╡рд┐рдкрд░реАрдд, BLOOM рдЗрдВрдЯрд░реИрдХреНрдЯрд┐рд╡ рд╕рдВрдЪрд╛рд░ рдХреЗ рдмрдЬрд╛рдп рдХрдВрдЯреЗрдВрдЯ рдХрдВрдкреНрд▓реАрд╢рди рдХреЗ рд▓рд┐рдП рдЙрдкрдпреБрдХреНрдд рд╣реИред
  • рд╣рд╛рд░реНрдбрд╡реЗрдпрд░ рдмрд╛рдзрд╛рдПрдБ: BLOOM рдХреА рдЙрдЪреНрдЪ рд╣рд╛рд░реНрдбрд╡реЗрдпрд░ рдорд╛рдБрдЧреЗрдВ рдЗрд╕реЗ GPT-3.5 рдФрд░ GPT4 рдЬреИрд╕реЗ рдЕрдзрд┐рдХ рдЙрдкрдпреЛрдЧрдХрд░реНрддрд╛-рдЕрдиреБрдХреВрд▓ LLMs рдХреА рддреБрд▓рдирд╛ рдореЗрдВ рдХрдо рд╕реБрд▓рдн рдмрдирд╛рддреА рд╣реИрдВ, рдЬрд┐рдиреНрд╣реЗрдВ рд╡рд┐рднрд┐рдиреНрди рдЕрдиреБрдкреНрд░рдпреЛрдЧреЛрдВ рдореЗрдВ рдПрдХреАрдХреГрдд рдХрд░рдирд╛ рдЖрд╕рд╛рди рд╣реИред
  • рдмрдврд╝рддреА рдкреНрд░рддрд┐рд╕реНрдкрд░реНрдзрд╛: LLaMA рдЬреИрд╕реЗ рдореЙрдбрд▓реЛрдВ рдФрд░ Alpaca рдЬреИрд╕реЗ рдЯреВрд▓реНрд╕ рдХреЗ рдЖрдЧрдорди рдиреЗ рдХрдо рд╕рдВрд╕рд╛рдзрди рдЖрд╡рд╢реНрдпрдХрддрд╛рдУрдВ рдХреЗ рд╕рд╛рде LLMs рддрдХ рдкрд╣реБрдБрдЪ рдХрд╛ рд▓реЛрдХрддрдВрддреНрд░реАрдХрд░рдг рдХрд┐рдпрд╛ рд╣реИ, рдЬрд┐рд╕рд╕реЗ рдЙрдирдХреА рдЕрдкреАрд▓ рдФрд░ рдЙрдкрдпреЛрдЧ рдмрдврд╝рд╛ рд╣реИред
  • рдмрд╣реБрднрд╛рд╖реА рдХреНрд╖рдорддрд╛: BLOOM рдХрд╛ рдЕрдиреВрдард╛ рдкрдХреНрд╖ рдХрдИ рднрд╛рд╖рд╛рдУрдВ рдореЗрдВ рд╡реНрдпрд╛рдкрдХ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рд╣реИ, рдЬреЛ рдЗрд╕реЗ рдЕрдиреБрд╡рд╛рдж рдФрд░ рдмрд╣реБрднрд╛рд╖реА рдХрдВрдЯреЗрдВрдЯ рдирд┐рд░реНрдорд╛рдг рдХреЗ рд▓рд┐рдП рдореВрд▓реНрдпрд╡рд╛рди рд╕рдВрд╕рд╛рдзрди рдмрдирд╛рддрд╛ рд╣реИред

рдирд┐рд╖реНрдХрд░реНрд╖

рдЗрд╕ рд▓реЗрдЦ рдореЗрдВ BLOOM рдкреНрд░реЛрдЬреЗрдХреНрдЯ рдХрд╛ рдЕрд╡рд▓реЛрдХрди рдкреНрд░рд╕реНрддреБрдд рдХрд┐рдпрд╛ рдЧрдпрд╛тАФрдЬреЛ Large Language Models рдХреЗ рд╡рд┐рдХрд╕рд┐рдд рд╣реЛрддреЗ рдХреНрд╖реЗрддреНрд░ рдореЗрдВ рдПрдХ рдорд╣рддреНрд╡рдкреВрд░реНрдг рдпреЛрдЧрджрд╛рди рд╣реИред

рд╣рдордиреЗ BLOOM рдХреЗ рд╡рд┐рдХрд╛рд╕, рдЙрд╕рдХреА рддрдХрдиреАрдХреА рд╡рд┐рд╢рд┐рд╖реНрдЯрддрд╛рдУрдВ рдФрд░ рдЙрд╕рдХреЗ рдирд┐рд░реНрдорд╛рдг рдХреЗ рдкреАрдЫреЗ рдХреЗ рд╕рд╣рдпреЛрдЧ рдкрд░ рдкреНрд░рдХрд╛рд╢ рдбрд╛рд▓рд╛ред рд▓реЗрдЦ рдиреЗ BLOOM рддрдХ рдкрд╣реБрдБрдЪрдиреЗ рдФрд░ рдЙрд╕реЗ рдкреНрд░рднрд╛рд╡реА рдврдВрдЧ рд╕реЗ рдЙрдкрдпреЛрдЧ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рдПрдХ рдорд╛рд░реНрдЧрджрд░реНрд╢рд┐рдХрд╛ рдХреЗ рд░реВрдк рдореЗрдВ рднреА рдХрд╛рд░реНрдп рдХрд┐рдпрд╛, рдЬрд┐рд╕рдореЗрдВ рдЗрд╕рдХреЗ рдЙрдкрдпреБрдХреНрдд рдЙрдкрдпреЛрдЧреЛрдВ рдФрд░ рд╕реАрдорд╛рдУрдВ рдкрд░ рдЬреЛрд░ рджрд┐рдпрд╛ рдЧрдпрд╛ред

рдЗрд╕рдХреЗ рдЕрд▓рд╛рд╡рд╛, рдЗрд╕рдореЗрдВ BLOOM AI рдкреНрд░реЛрдЬреЗрдХреНрдЯ рдХреЗ рдиреИрддрд┐рдХ рдирд┐рд╣рд┐рддрд╛рд░реНрде рдФрд░ рд╡рд╛рд╕реНрддрд╡рд┐рдХ рджреБрдирд┐рдпрд╛ рдкрд░ рдкреНрд░рднрд╛рд╡ рдХреЛ рд╢рд╛рдорд┐рд▓ рдХрд┐рдпрд╛ рдЧрдпрд╛, рдФрд░ рдЖрдЬ рдХреЗ AI рдкрд░рд┐рджреГрд╢реНрдп рдореЗрдВ рдЗрд╕рдХреА рд╕реНрд╡реАрдХреГрддрд┐ рдФрд░ рдкреНрд░рд╛рд╕рдВрдЧрд┐рдХрддрд╛ рдкрд░ рд╡рд┐рдЪрд╛рд░ рдХрд┐рдпрд╛ рдЧрдпрд╛ред рдЪрд╛рд╣реЗ рдЖрдк рд╕реАрдзреЗ AI рд╕реЗ рдЬреБрдбрд╝реЗ рд╣реЛрдВ рдпрд╛ рдЙрддреНрд╕рд╛рд╣реА рд╣реЛрдВ, BLOOM рдХреА рдпрд╣ рдкрдбрд╝рддрд╛рд▓ рдмрдбрд╝реЗ рднрд╛рд╖рд╛ рдореЙрдбрд▓реЛрдВ рдХреА рдЬрдЯрд┐рд▓ рджреБрдирд┐рдпрд╛ рдореЗрдВ рдорд╛рд░реНрдЧрджрд░реНрд╢рди рдХреЗ рд▓рд┐рдП рдЖрд╡рд╢реНрдпрдХ рджреГрд╖реНрдЯрд┐рдХреЛрдг рдкреНрд░рджрд╛рди рдХрд░рддреА рд╣реИред

рдЬреЛ рд▓реЛрдЧ рдЙрдиреНрдирдд рднрд╛рд╖рд╛ рдореЙрдбрд▓реЛрдВ рдХреЗ рд╕рд╛рде рдЕрдкрдиреА рднрд╛рдЧреАрджрд╛рд░реА рдХреЛ рдФрд░ рдЧрд╣рд░рд╛ рдХрд░рдирд╛ рдЪрд╛рд╣рддреЗ рд╣реИрдВ, рдЙрдирдХреЗ рд▓рд┐рдП рд╣рдорд╛рд░рд╛ рдЕрддрд┐рд░рд┐рдХреНрдд рдХреЛрд░реНрд╕ Large Language Models (LLMs) Concepts LLM рдЕрдиреБрдкреНрд░рдпреЛрдЧреЛрдВ, рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдкрджреНрдзрддрд┐рдпреЛрдВ, рдиреИрддрд┐рдХ рд╡рд┐рдЪрд╛рд░реЛрдВ рдФрд░ рдирд╡реАрдирддрдо рд╢реЛрдз рдХреЛ рдХрд╡рд░ рдХрд░рдиреЗ рд╡рд╛рд▓реЗ рд╣рдорд╛рд░реЗ рд╡реИрдЪрд╛рд░рд┐рдХ рдХреЛрд░реНрд╕ рдХреЗ рд╕рд╛рде LLMs рдХреА рдкреВрд░реА рдХреНрд╖рдорддрд╛ рдЦреЛрдЬрдиреЗ рдХрд╛ рдорд╛рд░реНрдЧ рдкреНрд░рджрд╛рди рдХрд░рддрд╛ рд╣реИред

рд╡рд┐рд╖рдп