рдореЛрдмрд╛рдЗрд▓ рд╕реЗрдЧрдореЗрдВрдЯ рдХреБрдЫ рднреА (MobileSAM)
рд╡рд╣реА MobileSAM рдХрд╛рдЧрдЬ рдЕрдм arXiv рдкрд░ рдЙрдкрд▓рдмреНрдз рд╣реИред
рдХрд╛ рдПрдХ рдкреНрд░рджрд░реНрд╢рди MobileSAM рд╕реАрдкреАрдпреВ рдкрд░ рдЪрд▓ рд░рд╣рд╛ рд╣реИ рдЗрд╕ рдбреЗрдореЛ рд▓рд┐рдВрдХ рдкрд░ рдкрд╣реБрдБрдЪрд╛ рдЬрд╛ рд╕рдХрддрд╛ рд╣реИ. рдореИрдХ i5 рд╕реАрдкреАрдпреВ рдкрд░ рдкреНрд░рджрд░реНрд╢рди рдореЗрдВ рд▓рдЧрднрдЧ 3 рд╕реЗрдХрдВрдб рд▓рдЧрддреЗ рд╣реИрдВред рдкрд░ Hugging Face рдбреЗрдореЛ, рдЗрдВрдЯрд░рдлрд╝реЗрд╕ рдФрд░ рдХрдо-рдкреНрд░рджрд░реНрд╢рди рд╕реАрдкреАрдпреВ рдзреАрдореА рдкреНрд░рддрд┐рдХреНрд░рд┐рдпрд╛ рдореЗрдВ рдпреЛрдЧрджрд╛рди рдХрд░рддреЗ рд╣реИрдВ, рд▓реЗрдХрд┐рди рдпрд╣ рдкреНрд░рднрд╛рд╡реА рдврдВрдЧ рд╕реЗ рдХрд╛рд░реНрдп рдХрд░рдирд╛ рдЬрд╛рд░реА рд░рдЦрддрд╛ рд╣реИред
MobileSAM рд╕рд╣рд┐рдд рд╡рд┐рднрд┐рдиреНрди рдкрд░рд┐рдпреЛрдЬрдирд╛рдУрдВ рдореЗрдВ рдХрд╛рд░реНрдпрд╛рдиреНрд╡рд┐рдд рдХрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИ рдЧреНрд░рд╛рдЙрдВрдбрд┐рдВрдЧ-SAM, AnyLabeling, рдФрд░ 3D рдореЗрдВ рдХреБрдЫ рднреА рдЦрдВрдбрд┐рдд рдХрд░реЗрдВред
MobileSAM рдПрдХ рджрд┐рди рд╕реЗ рднреА рдХрдо рд╕рдордп рдореЗрдВ 100k рдбреЗрдЯрд╛рд╕реЗрдЯ (рдореВрд▓ рдЫрд╡рд┐рдпреЛрдВ рдХрд╛ 1%) рдХреЗ рд╕рд╛рде рдПрдХрд▓ GPU рдкрд░ рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред рдЗрд╕ рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдХреЗ рд▓рд┐рдП рдХреЛрдб рднрд╡рд┐рд╖реНрдп рдореЗрдВ рдЙрдкрд▓рдмреНрдз рдХрд░рд╛рдпрд╛ рдЬрд╛рдПрдЧрд╛ред
рдЙрдкрд▓рдмреНрдз рдореЙрдбрд▓, рд╕рдорд░реНрдерд┐рдд рдХрд╛рд░реНрдп рдФрд░ рдСрдкрд░реЗрдЯрд┐рдВрдЧ рдореЛрдб
рдпрд╣ рддрд╛рд▓рд┐рдХрд╛ рдЙрдкрд▓рдмреНрдз рдореЙрдбрд▓реЛрдВ рдХреЛ рдЙрдирдХреЗ рд╡рд┐рд╢рд┐рд╖реНрдЯ рдкреВрд░реНрд╡-рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рднрд╛рд░, рдЙрдирдХреЗ рджреНрд╡рд╛рд░рд╛ рд╕рдорд░реНрдерд┐рдд рдХрд╛рд░реНрдпреЛрдВ рдФрд░ рдЕрдиреБрдорд╛рди, рд╕рддреНрдпрд╛рдкрди, рдкреНрд░рд╢рд┐рдХреНрд╖рдг рдФрд░ рдирд┐рд░реНрдпрд╛рдд рдЬреИрд╕реЗ рд╡рд┐рднрд┐рдиреНрди рдСрдкрд░реЗрдЯрд┐рдВрдЧ рдореЛрдб рдХреЗ рд╕рд╛рде рдЙрдирдХреА рд╕рдВрдЧрддрддрд╛ рдХреЗ рд╕рд╛рде рдкреНрд░рд╕реНрддреБрдд рдХрд░рддреА рд╣реИ, рдЬреЛ рд╕рдорд░реНрдерд┐рдд рдореЛрдб рдХреЗ рд▓рд┐рдП рдЗрдореЛрдЬреА рдФрд░ тЭМ рдЕрд╕рдорд░реНрдерд┐рдд рдореЛрдб рдХреЗ рд▓рд┐рдП рдЗрдореЛрдЬреА рджреНрд╡рд╛рд░рд╛ тЬЕ рдЗрдВрдЧрд┐рдд рдХреА рдЬрд╛рддреА рд╣реИред
рдореЙрдбрд▓ рдкреНрд░рдХрд╛рд░ | рдкреВрд░реНрд╡-рдкреНрд░рд╢рд┐рдХреНрд╖рд┐рдд рд╡рдЬрди | рд╕рдорд░реНрдерд┐рдд рдХрд╛рд░реНрдп | рдЕрдиреБрдорд╛рди | рдорд╛рдиреНрдпрддрд╛ | рдкреНрд░рд╢рд┐рдХреНрд╖рдг | рдирд┐рд░реНрдпрд╛рддрд┐рдд рдорд╛рд▓ |
---|---|---|---|---|---|---|
MobileSAM | mobile_sam.рдкреАрдЯреА | рдЗрдВрд╕реНрдЯреЗрдВрд╕ рд╕реЗрдЧрдореЗрдВрдЯреЗрд╢рди | тЬЕ | тЭМ | тЭМ | тЭМ |
рд╕реЗ рдЕрдиреБрдХреВрд▓рди SAM рддрдХ MobileSAM
рдХреНрдпреЛрдВрдХрд┐ MobileSAM рдореВрд▓ рдХреЗ рд╕рдорд╛рди рдкрд╛рдЗрдкрд▓рд╛рдЗрди рдХреЛ рдмрд░рдХрд░рд╛рд░ рд░рдЦрддрд╛ рд╣реИ SAM, рд╣рдордиреЗ рдореВрд▓ рдХреЗ рдкреНрд░реА-рдкреНрд░реЛрд╕реЗрд╕рд┐рдВрдЧ, рдкреЛрд╕реНрдЯ-рдкреНрд░реЛрд╕реЗрд╕рд┐рдВрдЧ рдФрд░ рдЕрдиреНрдп рд╕рднреА рдЗрдВрдЯрд░рдлреЗрд╕ рдХреЛ рд╢рд╛рдорд┐рд▓ рдХрд┐рдпрд╛ рд╣реИред рдирддреАрдЬрддрди, рд╡рд░реНрддрдорд╛рди рдореЗрдВ рдореВрд▓ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдиреЗ рд╡рд╛рд▓реЗ SAM рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рд╕рдВрдХреНрд░рдордг рдХрд░ рд╕рдХрддреЗ рд╣реИрдВ MobileSAM рдиреНрдпреВрдирддрдо рдкреНрд░рдпрд╛рд╕ рдХреЗ рд╕рд╛рдеред
MobileSAM рдореВрд▓ рдХреА рддреБрд▓рдирд╛ рдореЗрдВ рдкреНрд░рджрд░реНрд╢рди рдХрд░рддрд╛ рд╣реИ SAM рдФрд░ рдЫрд╡рд┐ рдПрдиреНрдХреЛрдбрд░ рдореЗрдВ рдмрджрд▓рд╛рд╡ рдХреЛ рдЫреЛрдбрд╝рдХрд░ рдЙрд╕реА рдкрд╛рдЗрдкрд▓рд╛рдЗрди рдХреЛ рдмрд░рдХрд░рд╛рд░ рд░рдЦрддрд╛ рд╣реИред рд╡рд┐рд╢реЗрд╖ рд░реВрдк рд╕реЗ, рд╣рдо рдореВрд▓ рд╣реИрд╡реАрд╡реЗрдЯ ViT-H рдПрдирдХреЛрдбрд░ (632M) рдХреЛ рдПрдХ рдЫреЛрдЯреЗ Tiny-ViT (5M) рд╕реЗ рдмрджрд▓ рджреЗрддреЗ рд╣реИрдВред рдПрдХрд▓ GPU рдкрд░, MobileSAM рдкреНрд░рддрд┐ рдЫрд╡рд┐ рд▓рдЧрднрдЧ 12ms рдкрд░ рд╕рдВрдЪрд╛рд▓рд┐рдд рд╣реЛрддрд╛ рд╣реИ: рдЫрд╡рд┐ рдПрдирдХреЛрдбрд░ рдкрд░ 8ms рдФрд░ рдорд╛рд╕реНрдХ рдбрд┐рдХреЛрдбрд░ рдкрд░ 4msред
рдирд┐рдореНрди рддрд╛рд▓рд┐рдХрд╛ ViT-рдЖрдзрд╛рд░рд┐рдд рдЫрд╡рд┐ рдПрдиреНрдХреЛрдбрд░ рдХреА рддреБрд▓рдирд╛ рдкреНрд░рджрд╛рди рдХрд░рддреА рд╣реИ:
рдЫрд╡рд┐ рдПрдирдХреЛрдбрд░ | рдореВрд▓ SAM | MobileSAM |
---|---|---|
рдкреИрд░рд╛рдореАрдЯрд░ | 611M | 5M |
рдЧрддрд┐ | 452ms | 8ms |
рджреЛрдиреЛрдВ рдореВрд▓ SAM рдФрд░ MobileSAM рдЙрд╕реА рдкреНрд░реЙрдореНрдкреНрдЯ-рдЧрд╛рдЗрдбреЗрдб рдорд╛рд╕реНрдХ рдбрд┐рдХреЛрдбрд░ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░реЗрдВ:
рдорд╛рд╕реНрдХ рдбрд┐рдХреЛрдбрд░ | рдореВрд▓ SAM | MobileSAM |
---|---|---|
рдкреИрд░рд╛рдореАрдЯрд░ | 3.876M | 3.876M |
рдЧрддрд┐ | 4ms | 4ms |
рдпрд╣рд╛рдБ рдкреВрд░реА рдкрд╛рдЗрдкрд▓рд╛рдЗрди рдХреА рддреБрд▓рдирд╛ рд╣реИ:
рдкреВрд░реА рдкрд╛рдЗрдкрд▓рд╛рдЗрди (Enc + Dec) | рдореВрд▓ SAM | MobileSAM |
---|---|---|
рдкреИрд░рд╛рдореАрдЯрд░ | 615M | 9.66M |
рдЧрддрд┐ | 456рдПрдордПрд╕ | 12ms |
рдХрд╛ рдкреНрд░рджрд░реНрд╢рди MobileSAM рдФрд░ рдореВрд▓ SAM рд╕рдВрдХреЗрдд рдХреЗ рд░реВрдк рдореЗрдВ рдПрдХ рдмрд┐рдВрджреБ рдФрд░ рдПрдХ рдмреЙрдХреНрд╕ рджреЛрдиреЛрдВ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдХреЗ рдкреНрд░рджрд░реНрд╢рд┐рдд рдХрд┐рдпрд╛ рдЬрд╛рддрд╛ рд╣реИред
рдЕрдкрдиреЗ рдмреЗрд╣рддрд░ рдкреНрд░рджрд░реНрд╢рди рдХреЗ рд╕рд╛рде, MobileSAM рд╡рд░реНрддрдорд╛рди рдХреА рддреБрд▓рдирд╛ рдореЗрдВ рд▓рдЧрднрдЧ 5 рдЧреБрдирд╛ рдЫреЛрдЯрд╛ рдФрд░ 7 рдЧреБрдирд╛ рддреЗрдЬ рд╣реИ FastSAM. рдЕрдзрд┐рдХ рд╡рд┐рд╡рд░рдг рдкрд░ рдЙрдкрд▓рдмреНрдз рд╣реИрдВ MobileSAM рдкрд░рд┐рдпреЛрдЬрдирд╛ рдкреГрд╖реНрдаред
рдкрд░реАрдХреНрд╖рдг MobileSAM рдореЗрдВ Ultralytics
рдореВрд▓ рдХреА рддрд░рд╣ SAM, рд╣рдо рдореЗрдВ рдПрдХ рд╕реАрдзрд╛ рдкрд░реАрдХреНрд╖рдг рд╡рд┐рдзрд┐ рдкреНрд░рджрд╛рди рдХрд░рддреЗ рд╣реИрдВ Ultralytics, рдмрд┐рдВрджреБ рдФрд░ рдмреЙрдХреНрд╕ рджреЛрдиреЛрдВ рд╕рдВрдХреЗрддреЛрдВ рдХреЗ рд▓рд┐рдП рдореЛрдб рд╕рд╣рд┐рддред
рдореЙрдбрд▓ рдбрд╛рдЙрдирд▓реЛрдб
рдЖрдк рдореЙрдбрд▓ рдХреЛ рдпрд╣рд╛рдВ рдбрд╛рдЙрдирд▓реЛрдб рдХрд░ рд╕рдХрддреЗ рд╣реИрдВред
рдкреНрд╡рд╛рдЗрдВрдЯ рдкреНрд░реЙрдореНрдкреНрдЯ
рдЙрджрд╛рд╣рд░рдг
рдмреЙрдХреНрд╕ рдкреНрд░реЙрдореНрдкреНрдЯ
рдЙрджрд╛рд╣рд░рдг
рд╣рдордиреЗ рд▓рд╛рдЧреВ рдХрд┐рдпрд╛ рд╣реИ MobileSAM
рдФрд░ SAM
рдПрдХ рд╣реА рдПрдкреАрдЖрдИ рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рдирд╛ред рдЕрдзрд┐рдХ рдЙрдкрдпреЛрдЧ рдХреА рдЬрд╛рдирдХрд╛рд░реА рдХреЗ рд▓рд┐рдП, рдХреГрдкрдпрд╛ рджреЗрдЦреЗрдВ SAM рдкреГрд╖реНрда.
рдкреНрд░рд╢рдВрд╕рд╛ рдкрддреНрд░ рдФрд░ рдкрд╛рд╡рддреА
рдпрджрд┐ рдЖрдк рдкрд╛рддреЗ рд╣реИрдВ MobileSAM рдЖрдкрдХреЗ рд╢реЛрдз рдпрд╛ рд╡рд┐рдХрд╛рд╕ рдХрд╛рд░реНрдп рдореЗрдВ рдЙрдкрдпреЛрдЧреА, рдХреГрдкрдпрд╛ рд╣рдорд╛рд░реЗ рдкреЗрдкрд░ рдХрд╛ рд╣рд╡рд╛рд▓рд╛ рджреЗрдиреЗ рдкрд░ рд╡рд┐рдЪрд╛рд░ рдХрд░реЗрдВ:
2023-11-12 рдмрдирд╛рдпрд╛ рдЧрдпрд╛, рдЕрдкрдбреЗрдЯ рдХрд┐рдпрд╛ рдЧрдпрд╛ 2024-04-17
рд▓реЗрдЦрдХ: рдЧреНрд▓реЗрди-рдЬреЛрдЪрд░ (8), рдЪрд╛рдУрдирд┐рдВрдЧрдЭрд╛рдВрдЧ (1), рд▓рд╛рдлрд┐рдВрдЧ-рдХреНрдпреВ (1)