Ìîñêîâñêèé ôèçèêî-òåõíè÷åñêèé èíñòèòóò Ôàêóëüòåò èííîâàöèé è âûñîêèõ òåõíîëîãèé Ìàòåìàòè÷åñêàÿ ëîãèêà è òåîðèÿ àëãîðèòìîâ, îñåíü 2015 Ëåêöèÿ 1: Èçìåðåíèå ñëîæíîñòè â ðàçëè÷íûõ ìîäåëÿõ âû÷èñëåíèé Êðàòêîå ñîäåðæàíèå Ïðåäñòàâëåíèå äàííûõ êàê âõîäà àëãîðèòìà. Âèäû âû÷èñëèòåëüíûõ çàäà÷: çàäà÷è âû÷èñëåíèÿ ÿçûêà, ðàñïîçíàâàíèÿ ôóíêöèè è ïîèñêà. Âèäû âû÷èñëèòåëüíûõ ðåñóðñîâ: âðåìÿ, ïàìÿòü, ñëó÷àéíîñòü, ïîäñêàçêà, äëèíà ïðîãðàììû, ñïåöèàëüíûå ìîäåëè âû÷èñëåíèé, îðàêóëû. Ðàçëè÷íûå ïîäõîäû ê èçìåðåíèþ ñëîæíîñòè çàäà÷è. Áèòîâàÿ è àëãåáðàè÷åñêàÿ ñëîæíîñòè. Ñëîæíîñòü â õóäøåì ñëó÷àå è â ñðåäíåì. Äåòåðìèíèðîâàííûå ìíîãîëåíòî÷íûå ìàøèíû Òüþðèíãà. Ïîíÿòèÿ ìàøèíû, êîíôèãóðàöèè, øàãà âû÷èñëåíèÿ, âû÷èñëåíèÿ. Ðàñïîçíàâàíèå ÿçûêà íà ìàøèíå. Èçìåðåíèå âðåìåíè â õóäøåì ñëó÷àå. Êëàññ DTIME(T (n)). Ìîäåëèðîâàíèå ìíîãîëåíòî÷íîé ìàøèíû íà îäíîëåíòî÷íîé ìàøèíå. Òåçèñ ×¼ð÷àÒüþðèíãà â ñèëüíîé ôîðìå. Ôóíêöèè, êîíñòðóèðóåìûå ïî âðåìåíè. 1 Âèäû âû÷èñëèòåëüíûõ çàäà÷ è âû÷èñëèòåëüíûõ ðåñóðñîâ Âñå àëãîðèòìû ìîãóò ðàáîòàòü ëèøü ñ êîíå÷íûìè îáúåêòàìè. Ïîä êîíå÷íûìè îáúåêòàìè ìû áóäåì ïîíèìàòü îáúåêòû, êîòîðûå ìîæíî ýôôåêòèâíî çàêîäèðîâàòü ñëîâàìè â íåêîòîðîì àëôàâèòå (áåç îãðàíè÷åíèÿ îáùíîñòè, â äâîè÷íîì). Ýôôåêòèâíîñòü êîäèðîâàíèÿ îçíà÷àåò, ÷òî ïî êîäó îáúåêòà ìîæíî âû÷èñëèòü âñå êëþ÷åâûå õàðàêòåðèñòèêè. Íàïðèìåð, ïî êîäó ãðàôà ìîæíî âû÷èñëèòü, ñêîëüêî â í¼ì âåðøèí è ñîåäèíåíû ëè äâå äàííûå âåðøèíû ðåáðîì, ïî êîäó ìàòðèöû ìîæíî âû÷èñëèòü å¼ ðàçìåð è ÷èñëî â ëþáîé ÿ÷åéêå, è ò.ä. Êàê ïðàâèëî, êîäèðîâàíèå íå ïðåäñòàâëÿåò îñîáûõ ïðîáëåì: ñ îáû÷íûìè ñòðîêàìè, îïèñûâàþùèìè îáúåêòû, ìîæíî ðàáîòàòü àëãîðèòìè÷åñêè. Íàïðèìåð, íàòóðàëüíûå ÷èñëà ïðåäñòàâëÿþòñÿ ñâîåé äâîè÷íîé (èëè äåñÿòè÷íîé) çàïèñüþ, âåêòîðà è ìàòðèöû ïðåäñòàâëÿþòñÿ êàê öåïî÷êè çàïèñåé ÷èñåë ñ ðàçäåëèòåëÿìè, ãðàô ìîæíî ïðåäñòàâèòü â âèäå ñïèñêà ð¼áåð èëè â âèäå ìàòðèöû ñìåæíîñòè, è ò.ä. Âî âñåõ ïðèìåðàõ ìû áóäåì ñ÷èòàòü, ÷òî âñå îáúåêòû óæå çàêîäèðîâàíû êàê ñëîâà â íåêîòîðîì àëôàâèòå, è íå áóäåì îòäåëüíî îáîçíà÷àòü êîä îáúåêòà. Ðàçóìååòñÿ, èñêëþ÷åíèåì áóäóò áåñêîíå÷íûå îáúåêòû, òàêèå êàê äåéñòâèòåëüíûå ÷èñëà èëè ãåîìåòðè÷åñêèå ôèãóðû. Òàêèå îáúåêòû ìû ðàññìàòðèâàòü íå áóäåì, õîòÿ ñîäåðæàòåëüíàÿ òåîðèÿ âîçìîæíà è äëÿ íèõ. Àëãîðèòìû ðàáîòàþò ñ ìàññîâûìè çàäà÷àìè, ò.å. ñ ðàçëè÷íûìè ýêçåìïëÿðàìè îäíîé è òîé æå çàäà÷è äëÿ âñåâîçìîæíûõ êîíêðåòíûõ äàííûõ. Àëãîðèòì äîëæåí äåéñòâîâàòü ïî îäíîé è òîé æå èíñòðóêöèè äëÿ âñåõ ýêçåìïëÿðîâ. Ìû áóäåì èçó÷àòü òðè îñíîâíûõ âèäà âû÷èñëèòåëüíûõ çàäà÷: Çàäà÷à ðàñïîçíàâàíèÿ ÿçûêà. Ïî ñëîâó x íóæíî âûÿñíèòü, ëåæèò ëè îíî â ÿçûêå L ⊂ Σ∗ . Èíûìè ñëîâàìè, àëãîðèòì äîëæåí âîçâðàòèòü 1 íà ëþáîì x ∈ L è âîçâðàòèòü 0 íà ëþáîì x 6∈ L. Ìîæíî òàêæå ñêàçàòü, àëãîðèòì äîëæåí ïðîâåðèòü, âûïîëíåíî ëè äëÿ ñëîâà x äàííîå ñâîéñòâî. 1 Çàäà÷à âû÷èñëåíèÿ ôóíêöèè. Ïî ñëîâó x íóæíî íàéòè çíà÷åíèå f (x), ãäå f : Σ∗ → Σ∗ . ñû: Èíûìè ñëîâàìè, àëãîðèòì äîëæåí íà ëþáîì x âîçâðàòèòü f (x). Êàê ïðàâèëî, ìû áóäåì ñ÷èòàòü, ÷òî f âñþäó îïðåäåëåíà. Çàäà÷à ïîèñêà. Ïî ñëîâó x íóæíî íàéòè ñëîâî y , òàêîå ÷òî xRy , ãäå R ⊂ Σ∗ × Σ∗ íåêîòîðîå îòíîøåíèå. Èíûìè ñëîâàìè, àëãîðèòì íà ëþáîì x äîëæåí ëèáî âîçâðàòèòü y, òàêîå ÷òî xRy, ëèáî ñîîáùèòü, ÷òî òàêèõ y íåò.  îñíîâíîì ìû áóäåì ðàáîòàòü ñ çàäà÷àìè ðàñïîçíàâàíèÿ ÿçûêà. Äëÿ àëãîðèòìè÷åñêîãî ðåøåíèÿ çàäà÷ òðåáóþòñÿ ðàçëè÷íûå âû÷èñëèòåëüíûå ðåñóðÂñå àëãîðèòìû ðàáîòàþò ïîøàãîâî. Äëÿ ðåøåíèÿ êàæäîé çàäà÷è òðåáóåòñÿ íåêîòîðîå ìèíèìàëüíîå ÷èñëî øàãîâ. Ïàìÿòü. Àëãîðèòìó íåîáõîäèìî ïðîñòðàíñòâî äëÿ ïðîìåæóòî÷íûõ âû÷èñëåíèé. Ñëó÷àéíîñòü. Íåêîòîðûå çàäà÷è (íàïðèìåð, ïðîâåðêà ÷èñëà íà ïðîñòîòó) ïðè ñîâðåìåííîì óðîâíå çíàíèé ðåøàþòñÿ ãîðàçäî áûñòðåå, åñëè ïðèìåíèòü âåðîÿòíîñòíûé àëãîðèòì âìåñòî äåòåðìèíèðîâàííîãî. Êàê ïðàâèëî, ðàñïëàòîé çà ýòî óñêîðåíèå áóäåò ìàëåíüêàÿ, íî ïîëîæèòåëüíàÿ âåðîÿòíîñòü îøèáêè. Ïîäñêàçêà. Åñëè ìàøèíà ïîëó÷àåò íåáîëüøóþ ïîäñêàçêó, çàâèñÿùóþ òîëüêî îò äëèíû âõîäà, îíà ìîæåò ñóùåñòâåííî óñêîðèòüñÿ. Áîëåå òîãî, ñ ïîäñêàçêîé ìîæíî ðåøèòü äàæå íåêîòîðûå íåâû÷èñëèìûå ôóíêöèè. Äëèíà ïðîãðàììû. Áûâàþò ñèòóàöèè, êîãäà ïðîãðàììà ñ áîëåå äëèííûì òåêñòîì áóäåò ðàáîòàòü áûñòðåå. Ïîýòîìó îãðàíè÷åíèÿ íà äëèíó ïðîãðàììû ìîãóò áûòü âàæíû ñ òî÷êè çðåíèÿ ðàñõîäà îñòàëüíûõ ðåñóðñîâ. Ñïåöèàëüíûå ìîäåëè âû÷èñëåíèé. Ñóùåñòâóþò ìîäåëè âû÷èñëåíèé, êîòîðûå ïîêà ÷òî íå óìåþò ñèìóëèðîâàòü íà ñòàíäàðòíûõ êîìïüþòåðàõ áåç çíà÷èòåëüíîãî ðîñòà âû÷èñëèòåëüíûõ ðåñóðñîâ. Ïðåæäå âñåãî, ýòî íåäåòåðìèíèðîâàííûå è êâàíòîâûå âû÷èñëåíèÿ. Íåêîòîðûå çàäà÷è íà äàííûé ìîìåíò ðåøàþòñÿ â ýòèõ ìîäåëÿõ ãîðàçäî áûñòðåå, ÷åì â êëàññè÷åñêîé. Îðàêóë. Âû÷èñëåíèÿ ñ îðàêóëîì ïîçâîëÿþò ïðî ëþáîå ñëîâî çà îäèí øàã óçíàâàòü, ïðèíàäëåæèò ëè ýòî ñëîâî íåêîòîðîìó ôèêñèðîâàííîìó ìíîæåñòâó. Êàê èçâåñòíî, ýòî äàæå ðàñøèðÿåò êëàññ àëãîðèòìè÷åñêè ðåøàåìûõ çàäà÷. Òàêæå ýòî ðàñøèðÿåò êëàññ çàäà÷, ðåøàåìûõ ýôôåêòèâíî, à êîëè÷åñòâî çàïðîñîâ ê îðàêóëó ìîæíî ñàìî ïî ñåáå âîñïðèíèìàòü êàê ìåðó ýôôåêòèâíîñòè àëãîðèòìà. Âðåìÿ ðàáîòû. 2 Ïîäõîäû ê ïîäñ÷¼òó ñëîæíîñòè çàäà÷ Äëÿ îïðåäåëåíèÿ ñëîæíîñòè ðåøåíèÿ àëãîðèòìè÷åñêîé çàäà÷è íóæíî îïðåäåëèòüñÿ ñ äâóìÿ âåùàìè: â ÷¼ì èçìåðÿòü âû÷èñëèòåëüíûå ðåñóðñû è êàê ñðàâíèâàòü ïîòðà÷åííûå ðåñóðñû äëÿ ðàçíûõ êîíêðåòíûõ âõîäîâ. 2 Êàê ïðàâèëî, â âû÷èñëèòåëüíûõ ìîäåëÿõ åñòü ïîíÿòèå ýëåìåíòàðíîãî øàãà è ýëåìåíòàðíîé ÿ÷åéêè ïàìÿòè. Ñîîòâåòñòâåííî, èìåííî ýòè ýëåìåíòàðíûå åäèíèöû èñïîëüçóþòñÿ äëÿ ïîäñ÷¼òà âðåìåíè ðàáîòû è ïàìÿòè. Ýòîò ïîäõîä íàçûâàåòñÿ áèòîâîé ñëîæíîñòüþ.  íåêîòîðûõ ìîäåëÿõ âîçìîæíû áîëåå ñëîæíûå ïîäõîäû. Íàïðèìåð, ìîæåò ïîäñ÷èòûâàòüñÿ êîëè÷åñòâî àëãåáðàè÷åñêèõ îïåðàöèé íàä íàòóðàëüíûìè ÷èñëàìè (îòäåëüíî àääèòèâíûõ è ìóëüòèïëèêàòèâíûõ, ýòîò ïîäõîä íàçûâàåòñÿ àëãåáðàè÷åñêîé ñëîæíîñòüþ), èëè íåîáõîäèìîå ÷èñëî ðåãèñòðîâ, â êîòîðûõ òàêæå õðàíÿòñÿ íàòóðàëüíûå ÷èñëà. ×òî êàñàåòñÿ ñðàâíåíèÿ çàòðà÷åííûõ ðåñóðñîâ äëÿ ðàçíûõ âõîäîâ, òî, âî-ïåðâûõ, êîëè÷åñòâî ýòèõ ðåñóðñîâ âîñïðèíèìàþò êàê ôóíêöèþ îò äëèíû âõîäà è àíàëèçèðóþò å¼ àñèìïòîòè÷åñêîå ïîâåäåíèå ïðè áåñêîíå÷íî âîçðàñòàþùåé äëèíå. Âî-âòîðûõ, äëÿ ñëîâ îäèíàêîâîé äëèíû èñïîëüçóþò äâà ïîäõîäà: ñëîæíîñòü â õóäøåì ñëó÷àå, èçìåðÿåìàÿ êàê ìàêñèìóì ïî âñåì âõîäàì äàííîé äëèíû, è ñëîæíîñòü â ñðåäíåì, äëÿ êîòîðîé âåëè÷èíû òàê èëè èíà÷å óñðåäíÿþòñÿ. Âîçìîæíî òàêæå èçó÷åíèå ñëîæíîñòè â òèïè÷íîì ñëó÷àå: íà âõîäàõ, êîòîðûå îáû÷íî âñòðå÷àþòñÿ íà ïðàêòèêå. Íî òàêîé ïîäõîä òðóäíî ôîðìàëèçîâàòü. 3 Ìíîãîëåíòî÷íàÿ ìàøèíà Òüþðèíãà Áàçîâîé âû÷èñëèòåëüíîé ìîäåëüþ äëÿ íàøåãî êóðñà ñëóæèò ìíîãîëåíòî÷íàÿ ìàøèíà Òüþðèíãà.  íåêîòîðûõ ïðèëîæåíèÿõ óäîáíî èñïîëüçîâàòü äðóãèå ìîäåëè, íàïðèìåð àäðåñíûå ìàøèíû, íî äëÿ òåîðèè ìàøèíà Òüþðèíãà íàèáîëåå óäîáíà. Ìû îïðåäåëèì ìàøèíó, ðåøàþùóþ çàäà÷ó ðàñïîçíàâàíèÿ ÿçûêà. Äåòåðìèíèðîâàííîé ìàøèíîé Òüþðèíãà ñ k ëåíòàìè íàçûâàåòñÿ êîðòåæ hΣ, Γ, Q, q0, qa, qr , δi, ãäå Σ, Γ è Q ñóòü êîíå÷íûå íåïóñòûå ìíîæåñòâà, ïðè÷¼ì Σ ⊂ Γ è Γ∩Q = ∅, q1, qa, qr ∈ Q è ïîïàðíî ðàçëè÷íû, à δ : (Q\{qa, qr })×Γk → Q×Γk ×{L, N, R}k . Σ íàçûâàåòñÿ âõîäíûì àëôàâèòîì, Γ ëåíòî÷íûì àëôàâèòîì, Q ìíîæåñòâîì ñîñòîÿíèé, q0, qa è qr íà÷àëüíûì, ïðèíèìàþùèì è îòâåðãàþùèì ñîñòîÿíèÿìè ñîîòâåòñòâåííî, à δ ôóíêöèåé ïåðåõîäà. Ñðåäè ýëåìåíòîâ Γ âûäåëÿþò ñïåöèàëüíûé ñèìâîë # (áëàíê, ïðîáåë, ïóñòîé ñèìâîë, îáîçíà÷àåòñÿ òàêæå êàê _, , ), íå âõîäÿùèé â ìíîæåñòâî Σ. Íåôîðìàëüíî ãîâîðÿ, ìàøèíà ñîñòîèò èç k áåñêîíå÷íûõ â îáå ñòîðîíû ëåíò, ðàçäåë¼ííûõ íà ÿ÷åéêè, è óïðàâëÿþùåãî áëîêà ñ óêàçàòåëÿìè íà êàæäóþ èç k ëåíò. Çà îäèí òàêò ìàøèíà ñ÷èòûâàåò ñèìâîëû ñî âñåõ k ÿ÷ååê, íà êîòîðûå óêàçûâàåò, è â çàâèñèìîñòè îò âíóòðåííåãî ñîñòîÿíèÿ è ïðî÷ò¼ííûõ ñèìâîëîâ ïåðåõîäèò â íîâîå ñîñòîÿíèå, çàïèñûâàåò íîâûå ñèìâîëû è ñäâèãàåò êàæäûé óêàçàòåëü âëåâî èëè âïðàâî èëè îñòàâëÿåò åãî íà ìåñòå.  íà÷àëå ðàáîòû íà ïåðâîé ëåíòå íàïèñàíî ñëîâî x, âñå îñòàëüíûå ëåíòû ïóñòû, ìàøèíà íàõîäèòñÿ â ñîñòîÿòíèè q1, à óêàçàòåëü íà ïåðâîé ëåíòå óêàçûâàåò íà ïåðâûé ñèìâîë ñëîâà x. Åñëè ÷åðåç íåêîòîðîå êîëè÷åñòâî òàêòîâ ìàøèíà ïðèõîäèò â ñîñòîÿíèå qa, òî ãîâîðÿò, ÷òî ìàøèíà ïðèíèìàåò ñëîâî x, åñëè ìàøèíà ïðèõîäèò â ñîñòîÿíèå qr , òî îòâåðãàåò. Äàäèì ôîðìàëüíîå îïðåäåëåíèå âû÷èñëåíèÿ íà ìàøèíå Òüþðèíãà. Êîíôèãóðàöèåé k -ëåíòî÷íîé ìàøèíû Òüþðèíãà M íàçûâàåòñÿ êîðòåæ (a1, . . . , ak ; b1, . . . , bk ; q), ãäå ai ∈ Γ+, bi ∈ Γ+ è q ∈ Q. Îïðåäåëåíèå 1. Îïðåäåëåíèå 2. 3 Ñìûñë îïðåäåëåíèÿ: ìàøèíà íàõîäèòñÿ â ñîñòîÿíèè q, íà i-îé ëåíòå íàïèñàíî ñëîâî aibi (îñòàëüíàÿ ÷àñòü ëåíòû çàïîëíåíà áëàíêàìè), ïðè÷¼ì óêàçàòåëü íàõîäèòñÿ íà ïåðâîì ñèìâîëå ñëîâà bi. Ïóñòü C = (a1σ1, . . . , ak σk ; τ1b1, . . . , τk bk ; q) íåêîòîðàÿ êîíôèãóðàöèÿ, ãäå q 6= qa è q 6= qr . (Ïîñêîëüêó âñå ñëîâà ai è bi íåïóñòû, ìîæíî âûäåëèòü èõ ïîñëåäíèå è ïåðâûå ñèìâîëû, ñîîòâåòñòâåííî, à îñòàâøèåñÿ ÷àñòè ïåðåîáîçíà÷èòü âíîâü çà ai è bi). Ïóñòü δ(q, τ1, . . . , τk ) = (r, ρ1, . . . , ρk , D1, . . . , Dk ). Òîãäà ñëåäóþùåé çà C êîíôèãóðàöèåé áóäåò C 0 = (a01, . . . , a0k ; b01, . . . , b0k ; r), ãäå: Åñëè Di = L, òî a0i = ai (èëè a0i = #, åñëè ai = ε), b0i = σi ρi bi ; Åñëè Di = N , òî a0i = ai σi , b0i = ρi bi ; Åñëè Di = R, òî a0i = ai σi ρi , b0i = bi (èëè b0i = #, åñëè bi = ε). Òàêèì îáðàçîì, ìàøèíà ìåíÿåò âñå τi íà ρi è ñäâèãàåòñÿ â óêàçàííûõ åé íàïðàâëåíèÿõ íà êàæäîé ëåíòå. Î÷åâèäíî, ÷òî çà îäíîé êîíôèãóðàöèåé ñëåäóåò ðîâíî îäíà êîíôèãóðàöèÿ. À âîò ïðåäøåñòâóþùèõ êîíôèãóðàöèé ìîæåò áûòü íåñêîëüêî. Âû÷èñëåíèåì íàçûâàåòñÿ ïîñëåäîâàòåëüíîñòü êîíôèãóðàöèé (C1 , . . . , Ct ), òàêàÿ ÷òî äëÿ âñåõ i = 1, . . . , t − 1 êîíôèãóðàöèÿ Ci+1 ñëåäóåò çà Ci. Ìàøèíà ïðèíèìàåò ñëîâî x, åñëè ñóùåñòâóåò âû÷èñëåíèå, íà÷èíàþùååñÿ ñ êîíôèãóðàöèè (#, . . . , #; x, #, . . . , #; q ) è çàêàí÷èâàþùàÿñÿ â êîíôèãóðàöèè, | {z } | {z } 0 Îïðåäåëåíèå 3. Îïðåäåëåíèå 4. Îïðåäåëåíèå 5. k ðàç k−1 ðàç ñîäåðæàùåé qa. Àíàëîãè÷íî ìàøèíà îòâåðãàåò ñëîâî x, åñëè ñóùåñòâóåò âû÷èñëåíèå, íà÷èíàþùååñÿ ñ òîé æå êîíôèãóðàöèè è çàêàí÷èâàþùååñÿ êîíôèãóðàöèåé, ñîäåðæàùåé qr . Íåòðóäíî çàìåòèòü, ÷òî âû÷èñëåíèå ïîëíîñòüþ îïðåäåëÿåòñÿ íà÷àëüíûì ñîñòîÿíèåì. Ïîýòîìó äëÿ êàæäîãî x âåðíî îäíî èç òð¼õ: ëèáî ìàøèíà ïðèíèìàåò åãî, ëèáî îòâåðãàåò, ëèáî íå îñòàíàâëèâàåòñÿ. Çàìå÷àíèå 6. 4 Ðàñïîçíàâàíèå ÿçûêîâ Ìàøèíà ðàñïîçíà¼ò ÿçûê L çà âðåìÿ T (n), åñëè îíà ïðèíèìàåò âñå ñëîâà, ëåæàùèå â L, îòâåðãàåò âñå ñëîâà, íå ëåæàùèå â L, è íà êàæäîì ñëîâå x ðàáîòàåò íå áîëüøå T (|x|) øàãîâ. Çäåñü èçìåðÿåòñÿ ñëîæíîñòü â õóäøåì ñëó÷àå : íóæíî, ÷òîáû ìàêñèìàëüíîå âðåìÿ ðàáîòû íà ñëîâàõ äëèíû n íå ïðåâûñèëî T (n). Êëàññîì DTIME(T (n)) íàçûâàåòñÿ êëàññ ÿçûêîâ, êîòîðûå ðàñïîçíàþòñÿ çà âðåìÿ O(T (n)). O(·)-îáîçíà÷åíèå îçíà÷àåò, ÷òî ñóùåñòâóþò ìàøèíà M è êîíñòàíòà c, òàêèå ÷òî íà êàæäîì ñëîâå x ìàøèíà ðàáîòàåò íå áîëüøå cT (n) øàãîâ. Îïðåäåëåíèå 7. Îïðåäåëåíèå 8. 4 Âûáîð O(·)-îáîçíà÷åíèÿ ñâÿçàí ñ òåì, ÷òî çà ñ÷¼ò óâåëè÷åíèÿ ÷èñëà ñîñòîÿíèé è ÷èñëà ñèìâîëîâ â ëåíòî÷íîì àëôàâèòå ìîæíî óìåíüøèòü âðåìÿ ðàáîòû â íåêîòîðîå êîíñòàíòíîå ÷èñëî ðàç: íàïðèìåð, â êà÷åñòâå ýëåìåíòàðíûõ îïåðàöèé ìîæíî ñ÷èòàòü íå îïåðàöèè ñ áèòàìè, à ñ áàéòàìè. Åñëè æå èçìåíèòü è ìîäåëü âû÷èñëåíèÿ, òî âðåìÿ ðàáîòû ìîæåò èçìåíèòüñÿ åù¼ ñèëüíåå. Íàïðèìåð, åñëè ïåðåéòè îò ìíîãîëåíòî÷íîé ìàøèíû ê îäíîëåíòî÷íîé, òî âðåìÿ ðàáîòû ìîæåò âîçâåñòèñü â êâàäðàò. Ëþáîé ÿçûê, êîòîðûé ìîæíî ðàñïîçíàòü çà âðåìÿ O(T (n)) íà ìíîãîëåíòî÷íîé ìàøèíå Òüþðèíãà, ìîæíî ðàñïîçíàòü çà âðåìÿ O(T (n)2 ) íà îäíîëåíòî÷íîé ìàøèíå. Óòâåðæäåíèå 9. Áóäåì ìîäåëèðîâàòü ìàøèíó ñ k ëåíòàìè ïðè ïîìîùè îäíîëåíòî÷íîé. Íà ëåíòå íîâîé ìàøèíû áóäåì õðàíèòü ñîäåðæèìîå âñåõ ëåíò èñõîäíîé, à òàêæå ïîëîæåíèÿ âñåõ óêàçàòåëåé. Ïîñêîëüêó èñõîäíàÿ ìàøèíà ðàáîòàåò íå äîëüøå O(T (n)), òî íà êàæäîé èç ëåíò íåïóñòûìè ìîãóò áûòü íå áîëüøå O(T (n)) ÿ÷ååê. Òàêèì îáðàçîì, íîâàÿ ìàøèíà çàéì¼ò íå áîëüøå k · O(T (n)) ÿ÷ååê, ò.å. òàêæå O(T (n)). Äëÿ ìîäåëèðîâàíèÿ îäíîãî øàãà èñõîäíîé ìàøèíû íóæíî èçìåíèòü ñîäåðæèìîå âñåõ ëåíò è ïåðåäâèíóòü óêàçàòåëè. Åñëè èñõîäíîé ìàøèíå òðåáóåòñÿ áîëüøå ìåñòà, òî íóæíî áóäåò îñâîáîäèòü ÿ÷åéêè, ñäâèíóâ âñ¼ ñîäåðæèìîå íà îäíó ÿ÷åéêó â ñòîðîíó.  ëþáîì ñëó÷àå ìîäåëèðîâàíèå îäíîãî øàãà ïîòðåáóåò O(T (n)) øàãîâ, òàêèì îáðàçîì ìîäåëèðîâàíèå âñåé ðàáîòû ïîòðåáóåò O(T (n)) · O(T (n)) = O(T (n)2) øàãîâ. Ìîæíî ïîêàçàòü, ÷òî ÿçûê ïàëèíäðîìîâ PAL = {x | x = xR} ìîæíî ðàñïîçíàòü äâóõëåíòî÷íîé ìàøèíîé çà âðåìÿ O(n), íî íåëüçÿ ðàñïîçíàòü îäíîëåíòî÷íîé ìàøèíîé çà âðåìÿ o(n2). Ïîõîæèå òåîðåìû ìîæíî äîêàçàòü è äëÿ äðóãèõ âàðèàöèé âû÷èñëèòåëüíîé ìîäåëè: ìàøèí ñ äâóìåðíîé ëåíòîé, ïðîèçâîëüíûì äîñòóïîì è ò.ä.  êàæäîì èç ýòèõ ñëó÷àåâ âû÷èñëåíèÿ ìîæíî áóäåò ñìîäåëèðîâàòü íà áîëåå ïðîñòîé ìàøèíå ñ ïîëèíîìèàëüíûì çàìåäëåíèåì. Èçâåñòåí òåçèñ ×¼ð÷àÒüþðèíãà â ñèëüíîé ôîðìå : ëþáîå âû÷èñëåíèå íà ðåàëüíîì óñòðîéñòâå ìîæíî ñìîäåëèðîâàòü íà îäíîëåíòî÷íîé ìàøèíå Òüþðèíãà ñ ïîëèíîìèàëüíûì çàìåäëåíèåì. Îäíàêî ýòîò òåçèñ ìîæåò áûòü íåâåðåí, åñëè ñóùåñòâóþò ôèçè÷åñêèå óñòðîéñòâà, ñïîñîáíûå ïðîâîäèòü íåäåòåðìèíèðîâàííûå èëè êâàíòîâûå âû÷èñëåíèÿ (à ñ êâàíòîâûìè òàêîå âïîëíå âîçìîæíî), è ïðè ýòîì òàêèå âû÷èñëåíèÿ íåëüçÿ ñìîäåëèðîâàòü ñ ïîëèíîìèàëüíûì çàìåäëåíèåì. Êàê ïðàâèëî, êëàññ DTIME(T (n)) ðàññìàòðèâàþò íå äëÿ âñåõ ôóíêöèé, à òîëüêî äëÿ õîðîøèõ . Âî-ïåðâûõ, åñòåñòâåííî ïîòðåáîâàòü T (n) ≥ n, èíà÷å ìàøèíà íå óñïååò äàæå ïðî÷åñòü ñâîé âõîä. Âî-âòîðûõ, åñòåñòâåííî ïîòðåáîâàòü ìîíîòîííîñòè T (n): ÷åì äëèííåå âõîä, òåì áîëüøå âðåìÿ ðàáîòû. Â-òðåòüèõ, ôóíêöèÿ äîëæíà áûòü êîíñòðóèðóåìîé ïî âðåìåíè: âû÷èñëèòü T (n) äîëæíî áûòü âîçìîæíî çà âðåìÿ T (n). Ôóíêöèÿ T : N → N íàçûâàåòñÿ êîíñòðóèðóåìîé ïî âðåìåíè, åñëè ñóùåñòâóåò àëãîðèòì, êîòîðûé çà âðåìÿ O(T (n)) ïî 1n (ò.å. ÷èñëó n â óíàðíîé çàïèñè) ïîëó÷àåò T (n) (â áèíàðíîé çàïèñè). Óíàðíàÿ çàïèñü àðãóìåíòà ââåäåíà ëèøü äëÿ åäèíîîáðàçèÿ: òîãäà âðåìÿ âû÷èñëåíèÿ T (n) èçìåðÿåòñÿ êàê ôóíêöèÿ îò äëèíû àðãóìåíòà, ò.å. n, è ýòî âðåìÿ íå äîëæíî áûòü áîëüøå O(T (n)). Âñå îáû÷íûå ôóíêöèè êîíñòðóèðóåìû ïî âðåìåíè: nc, 2n, n log n è Äîêàçàòåëüñòâî. Îïðåäåëåíèå 10. 5 ò.ä. Áîëåå òîãî, äëÿ ïîñòðîåíèÿ ôóíêöèè, íå êîíñòðóèðóåìîé ïî âðåìåíè, íóæíî ïðèìåíèòü ñïåöèàëüíóþ íåòðèâèàëüíóþ êîíñòðóêöèþ. Ñ äðóãîé ñòîðîíû, ðàññìîòðåíèå íå êîíñòðóèðóåìûõ ïî âðåìåíè ôóíêöèé ïðèâîäèò ê ïàðàäîêñàëüíûì ðåçóëüòàòàì, íàïðèìåð, òåîðåìà îá èåðàðõèè áóäåò íåâåðíà. 6