Cam 18, Test 2, Reading Pas 2 – Dịch + Giải Thích Đáp Án + Từ vựng – Living with artificial intelligence

14. What point does the writer make about AI in the first paragraph?

Luận điểm gì mà người viết nêu lên về AI trong đoạn văn đầu tiên?

This has been the decade of AI, with one astonishing feat after another. A chess-playing AI that can defeat not only all human chess players, but also all previous human-programmed chess machines, after learning the game in just four hours? That’s yesterday’s news, what’s next? True, these prodigious accomplishments are all in so-called narrow AI, where machines perform highly specialised tasks. But many experts believe this restriction is very temporary. By mid-century, we may have artificial general intelligence (AGI) – machines that can achieve human-level performance on the full range of tasks that we ourselves can tackle.

Đây đã và đang là thập kỷ của Al, với mỗi kỳ tích đáng kinh ngạc theo sau kỳ tích khác. Một AI chơi cờ vua mà có thể đánh bại không chỉ tất cả những cờ thủ mà còn tất cả các máy chơi cờ do con người lập trình trước đó, sau khi học về trò chơi này trong chỉ bốn giờ? Đó là tin tức của ngày hôm qua, vậy điều gì sẽ xảy ra tiếp theo? Thật vậy, những thành tựu phi thường này đều nằm trong cái gọi hạn hẹp là Al, nơi máy móc thực hiện các nhiệm vụ chuyên môn hóa cao. Nhưng, nhiều chuyên gia tin rằng hạn chế này chỉ là rất tạm thời. Từ giờ đến giữa thế kỷ này, chúng ta có thể có trí thông minh nhân tạo tổng hợp (AGI) – máy móc có thể đạt được hiệu suất làm việc ở cấp độ con người ở toàn bộ các nhiệm vụ mà chính bản thân chúng ta có thể giải quyết.

… many experts believe this restriction is very temporary. By mid-century, we may have artificial general intelligence (AGI) – machines that can achieve human-level performance on the full range of tasks that we ourselves can tackle.

=

C. The future is unlikely to see limitations on the capabilities of AI.

… nhiều chuyên gia tin rằng hạn chế này chỉ là rất tạm thời. Từ giờ đến giữa thế kỷ này, chúng ta có thể có trí thông minh nhân tạo tổng hợp (AGI) – máy móc có thể đạt được hiệu suất làm việc ở cấp độ con người ở toàn bộ các nhiệm vụ mà chính bản thân chúng ta có thể giải quyết.

=

Tương lai là khó có thể thấy được những hạn chế về những khả năng của AI.

By mid-century

The future

restriction

limitations

very temporary

is unlikely to see

can achieve human-level performance on the full range of tasks

capabilities

15. What is the writer doing in the second paragraph?

Người viết đang làm gì ở đoạn thứ hai?

If so, there’s little reason to think it will stop there. Machines will be free of many of the physical constraints on human intelligence. Our brains run at slow biochemical processing speeds on the power of a light bulb, and their size is restricted by the dimensions of the human birth canal. It is remarkable what they accomplish, given these handicaps. But they may be as far from the physical limits of thought as our eyes are from the incredibly powerful Webb Space Telescope.

Nếu vậy, có rất ít lý do để nghĩ rằng nó sẽ dừng lại ở đó. Máy móc sẽ không bị ràng buộc bởi rất nhiều những hạn chế vật lý của trí óc con người. Những bộ não của chúng ta chạy ở những tốc độ xử lý sinh hóa chậm với năng lượng của một bóng đèn, và kích thước của chúng bị giới hạn bởi những kích thước của ống cổ tử cung của con người. Điều đáng chú ý là chúng đạt được những gì, khi được ban cho những điều bất lợi này. Nhưng chúng có thể cách xa những giới hạn vật lý của suy nghĩ như những con mắt của chúng ta với Kính viễn vọng Không gian Webb cực mạnh.

… Machines will be free of many of the physical constraints on human intelligence. Our brains run at slow biochemical processing speeds on the power of a light bulb, and their size is restricted by the dimensions of the human birth canal. … But they may be as far from the physical limits of thought as our eyes are from the incredibly powerful Webb Space Telescope.

=

A. explaining why machines will be able to outperform humans

… Máy móc sẽ không bị ràng buộc bởi rất nhiều những hạn chế vật lý của trí óc con người. Những bộ não của chúng ta chạy ở những tốc độ xử lý sinh hóa chậm với năng lượng của một bóng đèn, và kích thước của chúng bị giới hạn bởi những kích thước của ống cổ tử cung của con người. … Nhưng chúng có thể cách xa những giới hạn vật lý của suy nghĩ như những con mắt của chúng ta với Kính viễn vọng Không gian Webb cực mạnh.

=

giải thích tại sao máy móc sẽ là có khả năng vượt trội con người

Machines will be free of many of the physical constraints on human intelligence

machines will be able to outperform humans

free of many of the physical constraints

outperform

Our brains run at slow biochemical processing speeds on the power of a light bulb, and their size is restricted by the dimensions of the human birth canal.
they may be as far from the physical limits of thought as our eyes are from the incredibly powerful Webb Space Telescope

explaining

16. Why does the writer mention the story of King Midas?

Tại sao người viết đề cập đến câu chuyện vua Midas?

But the more powerful AI becomes, the more important it will be to specify its goals with great care. Folklore is full of tales of people who ask for the wrong thing, with disastrous consequences- King Midas, for example, might have wished that everything he touched turned to gold, but didn’t really intend this to apply to his breakfast.

Nhưng AI càng mạnh mẽ hơn, việc xác định các mục tiêu rõ ràng của nó rất cẩn thận càng quan trọng hơn. Văn học dân gian đầy rẫy những câu chuyện kể về những con người mà đòi hỏi những thứ sai trái, với những hậu quả tai hại – Vua Midas là ví dụ, có thể đã ước rằng mọi thứ ông đã chạm vào đều đã biến thành vàng, nhưng đã không thực sự có ý định điều này áp dụng cho bữa sáng của ông.

… the more important it will be to specify its goals with great care. Folklore is full of tales of people who ask for the wrong thing, with disastrous consequences- King Midas, for example, might have wished that everything he touched turned to gold, but didn’t really intend this to apply to his breakfast.

=

B. to illustrate that poorly defined objectives can go wrong

… việc xác định các mục tiêu rõ ràng của nó rất cẩn thận càng quan trọng hơn. Văn học dân gian đầy rẫy những câu chuyện kể về những con người mà đòi hỏi những thứ sai trái, với những hậu quả tai hại – Vua Midas là ví dụ, có thể đã ước rằng mọi thứ ông đã chạm vào đều đã biến thành vàng, nhưng đã không thực sự có ý định điều này áp dụng cho bữa sáng của ông.

=

để minh họa rằng những mục đích được định nghĩa nghèo nàn có thể sẽ sai

specify its goals

defined objectives

ask for the wrong thing

poorly defined objectives

with disastrous consequences

can go wrong

might have wished that everything he touched turned to gold, but didn’t really intend this to apply to his breakfast.

illustrate

17. What challenge does the writer refer to in the fourth paragraph?

Thách thức nào mà người viết nói đến ở đoạn văn thứ tư?

So we need to create powerful AI machines that are ‘human-friendly’– that have goals reliably aligned with our own values. One thing that makes this task difficult is that we are far from reliably human-friendly ourselves. We do many terrible things to each other and to many other creatures with whom we share the planet. If superintendent machines don’t do a lot better than us, we’ll be in deep trouble. We’ll have powerful new intelligence amplifying the dark sides of our own fallible natures.

Vậy chúng ta cần tạo ra những cỗ máy Al mạnh mẽ ‘thân thiện với con người’ – mà có các mục tiêu phù hợp một cách đáng tin cậy với các giá trị của chính chúng ta. Một điều mà khiến nhiệm vụ này khó khăn là chúng ta còn xa mới là thân thiện một cách đáng tin cậy với chính chúng ta. Chúng ta làm rất nhiều điều tồi tệ với nhau và với rất nhiều sinh vật khác cùng chung sống trên hành tinh này. Nếu những cỗ máy giám sát không làm tốt hơn chúng ta rất nhiều, chúng ta sẽ gặp những vấn đề nghiêm trọng. Chúng ta sẽ có trí thông minh mới mạnh mẽ mà nó khuếch đại những mặt tối của những bản chất có thể là sai lầm của chính chúng ta.

So we need to create powerful AI machines that are ‘human-friendly’- that have goals reliably aligned with our own values. One thing that makes this task difficult is that we are far from reliably human-friendly ourselves. … If superintendent machines don’t do a lot better than us, we’ll be in deep trouble.

=

D. ensuring AI is more human-friendly than we are ourselves

Vậy chúng ta cần tạo ra những cỗ máy Al mạnh mẽ ‘thân thiện với con người’ – mà có các mục tiêu phù hợp một cách đáng tin cậy với các giá trị của chính chúng ta. Một điều mà khiến nhiệm vụ này khó khăn là chúng ta còn xa mới là thân thiện một cách đáng tin cậy với chính chúng ta…. Nếu những cỗ máy giám sát không làm tốt hơn chúng ta rất nhiều, chúng ta sẽ gặp những vấn đề nghiêm trọng.

=

đảm bảo AI là thân thiện với loài người hơn chính bản thân chúng ta

need

ensuring

we are far from reliably human-friendly ourselves. … If superintendent machines don’t do a lot better than us, we’ll be in deep trouble.

more human-friendly than we are ourselves

18. What does the writer suggest about the future of AI in the fifth paragraph?

Người viết gợi ý gì về tương lai của AI ở đoạn văn thứ năm?

For safety’s sake, then, we want the machines to be ethically as well as cognitively superhuman. We want them to aim for the moral high ground, not for the troughs in which many of us spend some of our time. Luckily they’ll be smart enough for the job. If there are routes to the moral high ground, they’ll be better than us at finding them, and steering us in the right direction.

Do vậy, vì mục đích an toàn, chúng ta muốn máy móc là siêu phàm về đạo đức cũng như nhận thức. Chúng ta muốn chúng nhắm đến nền tảng đạo đức cao, không phải cho những điểm tồi tệ mà nhiều người trong chúng ta trải qua trong quãng đời của mình. Thật may mắn chúng sẽ đủ thông minh cho việc này. Nếu có những con đường dẫn đến nền tảng đạo đức cao, chúng sẽ giỏi hơn chúng ta trong việc tìm ra chúng, và hướng chúng ta đi đúng hướng.

… we want the machines to be ethically as well as cognitively superhuman. We want them to aim for the moral high ground, not for the troughs in which many of us spend some of our time. …, they’ll be better than us at finding them, and steering us in the right direction.

=

C. Machines will be superior to humans in certain respects.

… chúng ta muốn máy móc là siêu phàm về đạo đức cũng như nhận thức. Chúng ta muốn chúng nhắm đến nền tảng đạo đức cao, không phải cho những điểm tồi tệ mà nhiều người trong chúng ta trải qua trong quãng đời của mình. …, chúng sẽ giỏi hơn chúng ta trong việc tìm ra chúng, và hướng chúng ta đi đúng hướng.

=

Máy móc sẽ tốt hơn con người trong một số khía cạnh.

be ethically as well as cognitively superhuman
aim for the moral high ground, not for the troughs in which many of us spend some of our time
they’ll be better than us at finding them, and steering us in the right direction

be superior to humans

ethically as well as cognitively
moral high ground

certain respects

19. Which of the following best summarises the writer’s argument in the sixth paragraph?

Ý nào trong số những tóm lược tốt nhất sau đây về lý luận của người viết trong đoạn văn thứ sáu?

However, there are two big problems with this utopian vision. One is how we get the machines started on the journey, the other is what it would mean to reach this destination. The ‘getting started’ problem is that we need to tell the machines what they’re looking for with sufficient clarity that we can be confident they will find it – whatever ‘it’ actually turns out to be. This won’t be easy, given that we are tribal creatures and conflicted about the ideals ourselves. We often ignore the suffering of strangers, and even contribute to it, at least indirectly. How then, do we point machines in the direction of something better?

Tuy nhiên, có hai vấn đề lớn với tầm nhìn xã hội hoàn hảo này. Một là bằng cách nào chúng ta khởi động các cỗ máy này tiến lên trên hành trình đó, vấn đề khác là ý nghĩa gì để đạt được đích đến này. Vấn đề ‘khởi động’ là chúng ta cần nói cho máy móc biết chúng đang tìm kiếm cái gì một cách đủ rõ ràng để chúng ta có thể tự tin rằng chúng sẽ tìm thấy nó – bất kể ‘nó’ thực sự sẽ là gì. Điều này sẽ là không dễ dàng, vì chúng ta là những sinh vật mang tính bộ tộc và  bị mâu thuẫn về những lý tưởng của chính chúng ta. Chúng ta thường bỏ qua sự đau khổ của những người xa lạ, và thậm chí còn góp phần cho nó, ít nhất là gián tiếp. Vậy làm thế nào, chúng ta có thể chỉ đường cho máy móc theo hướng của thứ gì đó tốt hơn?

… given that we are tribal creatures and conflicted about the ideals ourselves. We often ignore the suffering of strangers, and even contribute to it, at least indirectly. How then, do we point machines in the direction of something better?

=

D. Human shortcomings will make creating the machines we need more difficult.

… chúng ta là những sinh vật mang tính bộ tộc và  bị mâu thuẫn về những lý tưởng của chính chúng ta. Chúng ta thường bỏ qua sự đau khổ của những người xa lạ, và thậm chí còn góp phần cho nó, ít nhất là gián tiếp. Vậy làm thế nào, chúng ta có thể chỉ đường cho máy móc theo hướng của thứ gì đó tốt hơn?

=

Những thiếu sót của con người sẽ làm cho việc kiến tạo máy móc mà chúng ta cần trở nên khó khăn hơn.

conflicted about the ideals ourselves
We often ignore the suffering of strangers
even contribute to it

Human shortcomings

How then, do we point machines in the direction of something better

make creating the machines we need more difficult

20. Machines with the ability to make moral decisions may prevent us from promoting the interests of our communities.

Máy móc với khả năng ra những quyết định có đạo đức có thể sẽ ngăn chặn chúng ta thúc đẩy những mối quan tâm của cộng đồng.

Machines who are better than us at sticking to the moral high ground may be expected to discourage some of the lapses we presently take for granted. We might lose our freedom to discriminate in favour of our own communities, for example.

Máy móc thứ mà giỏi hơn chúng ta trong việc tuân thủ nền tảng đạo đức cao có thể được kỳ vọng để ngăn cản những sai lầm mà hiện tại chúng ta xem là hiển nhiên được hưởng. Ví dụ, chúng ta có thể mất đi sự tự do của chúng ta để đối xử phân biệt cho lợi ích của cộng đồng của chúng ta.

Machines who are better than us at sticking to the moral high ground … We might lose our freedom to discriminate in favour of our own communities, for example.

=

Machines with the ability to make moral decisions may prevent us from promoting the interests of our communities.

Máy móc thứ mà giỏi hơn chúng ta trong việc tuân thủ nền tảng đạo đức cao … . Ví dụ, chúng ta có thể mất đi sự tự do của chúng ta để đối xử phân biệt cho lợi ích của cộng đồng của chúng ta.

=

Máy móc với khả năng ra những quyết định có đạo đức có thể sẽ ngăn chặn chúng ta thúc đẩy những mối quan tâm của cộng đồng.

sticking to the moral high ground

ability to make moral decisions

We might lose our freedom to discriminate in favour of our own communities

prevent us from promoting the interests of our communities

21. Silicon police would need to exist in large numbers in order to be effective.

Cảnh sát công nghệ sẽ có thể cần hiện hữu với số lượng lớn để có hiệu quả

But are we ready for ethical silicon police limiting our options? They might be so good at doing it that we won’t notice them; but few of us are likely to welcome such a future.

Nhưng chúng ta đã sẵn sàng để những cảnh sát silicon/công nghệ có đạo đức này hạn chế những lựa chọn của chúng ta? Chúng có thể là rất giỏi với việc làm điều đó mà chúng ta không nhận ra; nhưng rất ít người trong chúng ta muốn chào đón một tương lai như thế.

so good

be effective

22. Many people are comfortable with the prospect of their independence being restricted by machines.

Nhiều người thấy thoải mái với viễn cảnh mà sự tự chủ của họ bị hạn chế bởi máy móc.

But are we ready for ethical silicon police limiting our options? They might be so good at doing it that we won’t notice them; but few of us are likely to welcome such a future.

Nhưng chúng ta đã sẵn sàng để những cảnh sát silicon/công nghệ có đạo đức này hạn chế những lựa chọn của chúng ta? Chúng có thể là rất giỏi với việc làm điều đó mà chúng ta không nhận ra; nhưng rất ít người trong chúng ta muốn chào đón một tương lai như thế.

… ethical silicon police limiting our options? …; but few of us are likely to welcome such a future.

=

Many people are comfortable with the prospect of their independence being restricted by machines.

… những cảnh sát silicon/công nghệ có đạo đức này hạn chế những lựa chọn của chúng ta? …; nhưng rất ít người trong chúng ta muốn chào đón một tương lai như thế.

=

Nhiều người thấy thoải mái với viễn cảnh mà sự tự chủ của họ bị hạn chế bởi máy móc.

our options

independence

limiting

being restricted

a future

prospect

few of us are likely to welcome

Many people are comfortable

23. If we want to ensure that machines act in our best interests, we all need to work together.

Nếu chúng ta muốn đảm bảo rằng máy móc hành động với lợi ích tốt nhất cho chúng ta, tất cả chúng ta cần làm việc với nhau.

We have a new powerful technology to deal with – itself, literally, a new way of thinking. For our own safety, we need to point these new thinkers in the right direction, and get them to act well for us. It is not yet clear whether this is possible, but if it is, it will require a cooperative spirit, and a willingness to set aside self-interest.

Chúng ta có một công nghệ mới mạnh mẽ để đối mặt với – chính nó, theo đúng nghĩa đen, một cách tư duy mới. Vì sự an toàn của chính chúng ta, chúng ta cần hướng những nhà tư tưởng mới này đi đúng hướng, và khiến họ hành động tốt cho chúng ta. Cũng chưa hẳn là rõ ràng liệu điều này có thể thực hiện được hay không, nhưng nếu là như vậy, nó sẽ đòi hỏi một tinh thần hợp tác, và một sự sẵn lòng bỏ qua lợi ích bản thân.

… get them to act well for us. It is not yet clear whether this is possible, but if it is, it will require a cooperative spirit, and a willingness to set aside self-interest.

=

If we want to ensure that machines act in our best interests, we all need to work together.

… khiến họ hành động tốt cho chúng ta. Cũng chưa hẳn là rõ ràng liệu điều này có thể thực hiện được hay không, nhưng nếu là như vậy, nó sẽ đòi hỏi một tinh thần hợp tác, và một sự sẵn lòng bỏ qua lợi ích bản thân.

=

Nếu chúng ta muốn đảm bảo rằng máy móc hành động với lợi ích tốt nhất cho chúng ta, tất cả chúng ta cần làm việc với nhau.

act well for us

act in our best interests

require

need

cooperative spirit

work together

Using AI in the UK health system
24. AI currently has a limited role in the way …………………. are allocated in the health service.

Sử dụng AI trong hệ thống chăm sóc sức khỏe ở UK
AI hiện có một vai trò hạn chế trong cái cách …………………. được đặt vào dịch vụ chăm sóc sức khỏe.

AI already has some input into how resources are used in our National Health Service (NHS) here in the UK, for example.

AI hiện đã có một số ý tưởng được đưa vào việc sử dụng các nguồn lực trong Dịch Vụ Y Tế Quốc Gia (NHS) của chúng ta như thế nào ở Anh.

AI already has some input into how … resources … are used in our National Health Service (NHS) here in the UK

=

AI currently has a limited role in the way …………………. are allocated in the health service.

AI hiện đã có một số ý tưởng được đưa vào việc sử dụng … các nguồn lực … trong Dịch Vụ Chăm Sóc Sức Khỏe Quốc Gia

=

AI hiện có một vai trò hạn chế trong cái cách …………………. được đặt vào dịch vụ chăm sóc sức khỏe.

already has

currently has

some input

a limited role

how … are used

are allocated

already has

currently has

some input

a limited role

However, such a change would result, for example, in certain 25…………………. not having their current level of 26…………………. .

Tuy nhiên, sự thay đổi này có thể dẫn đến kết quả, ví dụ, ở một …………………. nào đó không có mức độ hiện tại của chúng về …………………. .

If it was given a greater role, it might do so much more efficiently than humans can manage, and act in the interests of taxpayers and those who use the health system. However, we’d be depriving some humans (e.g. senior doctors) of the control they presently enjoy.

Nếu nó đã được giao cho một vai trò lớn hơn, nó có thể đã làm việc hiệu quả hơn rất nhiều so với con người có thể quản lý, và hoạt động với lợi ích của những người đóng thuế và những người sử dụng hệ thống chăm sóc sức khỏe này. Tuy nhiên, chúng ta có thể đang tước đi quyền kiểm soát của một số người mà họ đang hưởng (ví dụ như các bác sĩ kỳ cựu).

However, we’d be depriving some humans (e.g. … senior doctors …) of … the control … they presently enjoy.

=

However, such a change would result, for example, in certain 25…………………. not having their current level of 26…………………. .

Tuy nhiên, chúng ta có thể đang tước đi … quyền kiểm soát … của một số người mà họ đang hưởng (ví dụ như … các bác sĩ kỳ cựu … ).

=

Tuy nhiên, sự thay đổi này có thể dẫn đến kết quả, ví dụ, ở một …………………. nào đó không có mức độ hiện tại của chúng về …………………. .

we’d be

would result

e.g.

for example

depriving

not having

presently

current

doctors

medical practitioners 

the control

professional authority 

This has been the decade of AI, with one astonishing feat after another. A chess-playing AI that can defeat not only all human chess players, but also all previous human-programmed chess machines, after learning the game in just four hours? That’s yesterday’s news, what’s next? True, these prodigious accomplishments are all in so-called narrow AI, where machines perform highly specialised tasks. But many experts believe this restriction is very temporary. By mid-century, we may have artificial general intelligence (AGI) – machines that can achieve human-level performance on the full range of tasks that we ourselves can tackle.

Đây đã và đang là thập kỷ của Al, với mỗi kỳ tích đáng kinh ngạc theo sau kỳ tích khác. Một AI chơi cờ vua mà có thể đánh bại không chỉ tất cả những cờ thủ mà còn tất cả các máy chơi cờ do con người lập trình trước đó, sau khi học về trò chơi này trong chỉ bốn giờ? Đó là tin tức của ngày hôm qua, vậy điều gì sẽ xảy ra tiếp theo? Thật vậy, những thành tựu phi thường này đều nằm trong cái gọi hạn hẹp là Al, nơi máy móc thực hiện các nhiệm vụ chuyên môn hóa cao. Nhưng, nhiều chuyên gia tin rằng hạn chế này chỉ là rất tạm thời. Từ giờ đến giữa thế kỷ này, chúng ta có thể có trí thông minh nhân tạo tổng hợp (AGI) – máy móc có thể đạt được hiệu suất làm việc ở cấp độ con người ở toàn bộ các nhiệm vụ mà chính bản thân chúng ta có thể giải quyết.

If so, there’s little reason to think it will stop there. Machines will be free of many of the physical constraints on human intelligence. Our brains run at slow biochemical processing speeds on the power of a light bulb, and their size is restricted by the dimensions of the human birth canal. It is remarkable what they accomplish, given these handicaps. But they may be as far from the physical limits of thought as our eyes are from the incredibly powerful Webb Space Telescope.

Nếu vậy, có rất ít lý do để nghĩ rằng nó sẽ dừng lại ở đó. Máy móc sẽ không bị ràng buộc bởi rất nhiều những hạn chế vật lý của trí óc con người. Những bộ não của chúng ta chạy ở những tốc độ xử lý sinh hóa chậm với năng lượng của một bóng đèn, và kích thước của chúng bị giới hạn bởi những kích thước của ống cổ tử cung của con người. Điều đáng chú ý là chúng đạt được những gì, khi được ban cho những điều bất lợi này. Nhưng chúng có thể cách xa những giới hạn vật lý của suy nghĩ như những con mắt của chúng ta với Kính viễn vọng Không gian Webb cực mạnh.

Once machines are better than us at designing even smarter machines, progress towards these limits could accelerate. What would this mean for us? Could we ensure a safe and worthwhile coexistence with such machines? On the plus side, AI is already useful and profitable for many things, and super AI might be expected to be super useful and super profitable. But the more powerful AI becomes, the more important it will be to specify its goals with great care. Folklore is full of tales of people who ask for the wrong thing, with disastrous consequences- King Midas, for example, might have wished that everything he touched turned to gold, but didn’t really intend this to apply to his breakfast.

Một khi máy móc là tốt hơn chúng ta ở việc thiết kế thậm chí cả những cỗ máy thông minh hơn, tiến trình hướng tới những giới hạn này có thể tăng tốc. Điều này có ý nghĩa gì đối với chúng ta? Chúng ta có thể đảm bảo một sự tồn tại cùng nhau an toàn và đáng giá với những cỗ máy như vậy?  Về mặt tích cực mà nói, Trí tuệ Nhân tạo (AI) đã là hữu ích và có lợi đối với rất nhiều thứ, và siêu AI có thể được kỳ vọng là cực kỳ hữu ích và siêu lợi. Nhưng AI càng mạnh mẽ hơn, việc xác định các mục tiêu rõ ràng của nó rất cẩn thận càng quan trọng hơn. Văn học dân gian đầy rẫy những câu chuyện kể về những con người mà đòi hỏi những thứ sai trái, với những hậu quả tai hại – Vua Midas là ví dụ, có thể đã ước rằng mọi thứ ông đã chạm vào đều đã biến thành vàng, nhưng đã không thực sự có ý định điều này áp dụng cho bữa sáng của ông.

So we need to create powerful AI machines that are ‘human-friendly’- that have goals reliably aligned with our own values. One thing that makes this task difficult is that we are far from reliably human-friendly ourselves. We do many terrible things to each other and to many other creatures with whom we share the planet. If superintendent machines don’t do a lot better than us, we’ll be in deep trouble. We’ll have powerful new intelligence amplifying the dark sides of our own fallible natures.

Vậy chúng ta cần tạo ra những cỗ máy Al mạnh mẽ ‘thân thiện với con người’ – mà có các mục tiêu phù hợp một cách đáng tin cậy với các giá trị của chính chúng ta. Một điều mà khiến nhiệm vụ này khó khăn là chúng ta còn xa mới là thân thiện một cách đáng tin cậy với chính chúng ta. Chúng ta làm rất nhiều điều tồi tệ với nhau và với rất nhiều sinh vật khác cùng chung sống trên hành tinh này. Nếu những cỗ máy giám sát không làm tốt hơn chúng ta rất nhiều, chúng ta sẽ gặp những vấn đề nghiêm trọng. Chúng ta sẽ có trí thông minh mới mạnh mẽ mà nó khuếch đại những mặt tối của những bản chất có thể là sai lầm của chính chúng ta.

For safety’s sake, then, we want the machines to be ethically as well as cognitively superhuman. We want them to aim for the moral high ground, not for the troughs in which many of us spend some of our time. Luckily they’ll be smart enough for the job. If there are routes to the moral high ground, they’ll be better than us at finding them, and steering us in the right direction.

Do vậy, vì mục đích an toàn, chúng ta muốn máy móc là siêu phàm về đạo đức cũng như nhận thức. Chúng ta muốn chúng nhắm đến nền tảng đạo đức cao, không phải cho những điểm tồi tệ mà nhiều người trong chúng ta trải qua trong quãng đời của mình. Thật may mắn chúng sẽ đủ thông minh cho việc này. Nếu có những con đường dẫn đến nền tảng đạo đức cao, chúng sẽ giỏi hơn chúng ta trong việc tìm ra chúng, và hướng chúng ta đi đúng hướng.

However, there are two big problems with this utopian vision. One is how we get the machines started on the journey, the other is what it would mean to reach this destination. The ‘getting started’ problem is that we need to tell the machines what they’re looking for with sufficient clarity that we can be confident they will find it – whatever ‘it’ actually turns out to be. This won’t be easy, given that we are tribal creatures and conflicted about the ideals ourselves. We often ignore the suffering of strangers, and even contribute to it, at least indirectly. How then, do we point machines in the direction of something better?

Tuy nhiên, có hai vấn đề lớn với tầm nhìn xã hội hoàn hảo này. Một là bằng cách nào chúng ta khởi động các cỗ máy này tiến lên trên hành trình đó, vấn đề khác là ý nghĩa gì để đạt được đích đến này. Vấn đề ‘khởi động’ là chúng ta cần nói cho máy móc biết chúng đang tìm kiếm cái gì một cách đủ rõ ràng để chúng ta có thể tự tin rằng chúng sẽ tìm thấy nó – bất kể ‘nó’ thực sự sẽ là gì. Điều này sẽ là không dễ dàng, vì chúng ta là những sinh vật mang tính bộ tộc và  bị mâu thuẫn về những lý tưởng của chính chúng ta. Chúng ta thường bỏ qua sự đau khổ của những người xa lạ, và thậm chí còn góp phần cho nó, ít nhất là gián tiếp. Vậy làm thế nào, chúng ta có thể chỉ đường cho máy móc theo hướng của thứ gì đó tốt hơn?

As for the ‘destination’ problem, we might, by putting ourselves in the hands of these moral guides and gatekeepers, be sacrificing our own autonomy – an important part of what makes us human. Machines who are better than us at sticking to the moral high ground may be expected to discourage some of the lapses we presently take for granted. We might lose our freedom to discriminate in favour of our own communities, for example.

Về vấn đề “điểm đến”, chúng ta có thể, bằng cách đặt chính chúng ta vào việc bị kiểm soát của những hướng dẫn hay các thành phần kiểm soát đạo đức này, hi sinh quyền tự quyết định của chính bản thân chúng ta  –  một phần quan trọng của những thứ làm cho chúng ta là con người. Máy móc thứ mà giỏi hơn chúng ta trong việc tuân thủ nền tảng đạo đức cao có thể được kỳ vọng để ngăn cản những sai lầm mà hiện tại chúng ta xem là hiển nhiên được hưởng. Ví dụ, chúng ta có thể mất đi sự tự do của chúng ta để đối xử phân biệt cho lợi ích của cộng đồng của chúng ta.

Loss of freedom to behave badly isn’t always a bad thing, of course: denying ourselves the freedom to put children to work in factories, or to smoke in restaurants are signs of progress. But are we ready for ethical silicon police limiting our options? They might be so good at doing it that we won’t notice them; but few of us are likely to welcome such a future.

Mất quyền tự do để hành xử sai trái không phải luôn là một điều xấu, rõ ràng là như vậy: từ chối chính chúng ta quyền tự do cho trẻ em làm việc trong các nhà máy, hay hút thuốc trong các nhà hàng là những tín hiệu của sự tiến bộ. Nhưng chúng ta đã sẵn sàng để những cảnh sát silicon/công nghệ có đạo đức này hạn chế những lựa chọn của chúng ta? Chúng có thể là rất giỏi với việc làm điều đó mà chúng ta không nhận ra; nhưng rất ít người trong chúng ta muốn chào đón một tương lai như thế.

These issues might seem far-fetched, but they are to some extent already here. AI already has some input into how resources are used in our National Health Service (NHS) here in the UK, for example. If it was given a greater role, it might do so much more efficiently than humans can manage, and act in the interests of taxpayers and those who use the health system. However, we’d be depriving some humans (e.g. senior doctors) of the control they presently enjoy. Since we’d want to ensure that people are treated equally and that policies are fair, the goals of AI would need to be specified correctly.

Những vấn đề này dường như rất xa vời, nhưng ở những mức độ nào đó chúng đã có ở hiện tại. Ví dụ, AI hiện đã có một số ý tưởng được đưa vào việc sử dụng các nguồn lực trong Dịch Vụ Chăm Sóc Sức Khỏe Quốc Gia (NHS) của chúng ta như thế nào ở Anh. Nếu nó đã được giao cho một vai trò lớn hơn, nó có thể đã làm việc hiệu quả hơn rất nhiều so với con người có thể quản lý, và hoạt động với lợi ích của những người đóng thuế và những người sử dụng hệ thống chăm sóc sức khỏe này. Tuy nhiên, chúng ta có thể đang tước đi quyền kiểm soát của một số người mà họ đang hưởng (ví dụ như các bác sĩ kỳ cựu). Bởi vì chúng ta muốn đảm bảo rằng con người là được đối xử công bằng và các chính sách là công bằng, các mục tiêu của AI cần phải được xác định đúng đắn.

We have a new powerful technology to deal with – itself, literally, a new way of thinking. For our own safety, we need to point these new thinkers in the right direction, and get them to act well for us. It is not yet clear whether this is possible, but if it is, it will require a cooperative spirit, and a willingness to set aside self-interest.

Chúng ta có một công nghệ mới mạnh mẽ để đối mặt với – chính nó, theo đúng nghĩa đen, một cách tư duy mới. Vì sự an toàn của chính chúng ta, chúng ta cần hướng những nhà tư tưởng mới này đi đúng hướng, và khiến họ hành động tốt cho chúng ta. Cũng chưa hẳn là rõ ràng liệu điều này có thể thực hiện được hay không, nhưng nếu là như vậy, nó sẽ đòi hỏi một tinh thần hợp tác, và một sự sẵn lòng bỏ qua lợi ích bản thân.

Both general intelligence and moral reasoning are often thought to be uniquely human capacities. But safety seems to require that we think of them as a package: if we are to give general intelligence to machines, we’ll need to give them moral authority, too. And where exactly would that leave human beings? All the more reason to think about the destination now, and to be careful about what we wish for.

Cả trí thông minh tổng quát và lý luận đạo đức thường được cho là những khả năng độc nhất của con người. Nhưng sự an toàn dường như đòi hỏi rằng chúng ta coi chúng như một bộ: nếu chúng ta trao trí thông minh tổng quát cho máy móc, chúng ta cũng cần cho chúng quyền về đạo đức nữa. Và điều đó chính xác sẽ vượt con người ở đâu? Càng nhiều lý do hơn để suy nghĩ về đích đến ở thời điểm hiện tại, và thận trọng về những thứ chúng ta mong muốn.

This has been the decade of AI, with one astonishing feat after another. A chess-playing AI that can defeat not only all human chess players, but also all previous human-programmed chess machines, after learning the game in just four hours? That’s yesterday’s news, what’s next? True, these prodigious accomplishments are all in so-called narrow AI, where machines perform highly specialised tasks. But many experts believe this restriction is very temporary. By mid-century, we may have artificial general intelligence (AGI) – machines that can achieve human-level performance on the full range of tasks that we ourselves can tackle.

Đây đã và đang là thập kỷ của Al, với mỗi kỳ tích đáng kinh ngạc theo sau kỳ tích khác. Một AI chơi cờ vua mà có thể đánh bại không chỉ tất cả những cờ thủ mà còn tất cả các máy chơi cờ do con người lập trình trước đó, sau khi học về trò chơi này trong chỉ bốn giờ? Đó là tin tức của ngày hôm qua, vậy điều gì sẽ xảy ra tiếp theo? Thật vậy, những thành tựu phi thường này đều nằm trong cái gọi hạn hẹp là Al, nơi máy móc thực hiện các nhiệm vụ chuyên môn hóa cao. Nhưng, nhiều chuyên gia tin rằng hạn chế này chỉ là rất tạm thời. Từ giờ đến giữa thế kỷ này, chúng ta có thể có trí thông minh nhân tạo tổng hợp (AGI) – máy móc có thể đạt được hiệu suất làm việc ở cấp độ con người ở toàn bộ các nhiệm vụ mà chính bản thân chúng ta có thể giải quyết.

If so, there’s little reason to think it will stop there. Machines will be free of many of the physical constraints on human intelligence. Our brains run at slow biochemical processing speeds on the power of a light bulb, and their size is restricted by the dimensions of the human birth canal. It is remarkable what they accomplish, given these handicaps. But they may be as far from the physical limits of thought as our eyes are from the incredibly powerful Webb Space Telescope.

Nếu vậy, có rất ít lý do để nghĩ rằng nó sẽ dừng lại ở đó. Máy móc sẽ không bị ràng buộc bởi rất nhiều những hạn chế vật lý của trí óc con người. Những bộ não của chúng ta chạy ở những tốc độ xử lý sinh hóa chậm với năng lượng của một bóng đèn, và kích thước của chúng bị giới hạn bởi những kích thước của ống cổ tử cung của con người. Điều đáng chú ý là chúng đạt được những gì, khi được ban cho những điều bất lợi này. Nhưng chúng có thể cách xa những giới hạn vật lý của suy nghĩ như những con mắt của chúng ta với Kính viễn vọng Không gian Webb cực mạnh.

Once machines are better than us at designing even smarter machines, progress towards these limits could accelerate. What would this mean for us? Could we ensure a safe and worthwhile coexistence with such machines? On the plus side, AI is already useful and profitable for many things, and super AI might be expected to be super useful and super profitable. But the more powerful AI becomes, the more important it will be to specify its goals with great care. Folklore is full of tales of people who ask for the wrong thing, with disastrous consequences- King Midas, for example, might have wished that everything he touched turned to gold, but didn’t really intend this to apply to his breakfast.

Một khi máy móc là tốt hơn chúng ta ở việc thiết kế thậm chí cả những cỗ máy thông minh hơn, tiến trình hướng tới những giới hạn này có thể tăng tốc. Điều này có ý nghĩa gì đối với chúng ta? Chúng ta có thể đảm bảo một sự tồn tại cùng nhau an toàn và đáng giá với những cỗ máy như vậy?  Về mặt tích cực mà nói, Trí tuệ Nhân tạo (AI) đã là hữu ích và có lợi đối với rất nhiều thứ, và siêu AI có thể được kỳ vọng là cực kỳ hữu ích và siêu lợi. Nhưng AI càng mạnh mẽ hơn, việc xác định các mục tiêu rõ ràng của nó rất cẩn thận càng quan trọng hơn. Văn học dân gian đầy rẫy những câu chuyện kể về những con người mà đòi hỏi những thứ sai trái, với những hậu quả tai hại – Vua Midas là ví dụ, có thể đã ước rằng mọi thứ ông đã chạm vào đều đã biến thành vàng, nhưng đã không thực sự có ý định điều này áp dụng cho bữa sáng của ông.

So we need to create powerful AI machines that are ‘human-friendly’- that have goals reliably aligned with our own values. One thing that makes this task difficult is that we are far from reliably human-friendly ourselves. We do many terrible things to each other and to many other creatures with whom we share the planet. If superintendent machines don’t do a lot better than us, we’ll be in deep trouble. We’ll have powerful new intelligence amplifying the dark sides of our own fallible natures.

Vậy chúng ta cần tạo ra những cỗ máy Al mạnh mẽ ‘thân thiện với con người’ – mà có các mục tiêu phù hợp một cách đáng tin cậy với các giá trị của chính chúng ta. Một điều mà khiến nhiệm vụ này khó khăn là chúng ta còn xa mới là thân thiện một cách đáng tin cậy với chính chúng ta. Chúng ta làm rất nhiều điều tồi tệ với nhau và với rất nhiều sinh vật khác cùng chung sống trên hành tinh này. Nếu những cỗ máy giám sát không làm tốt hơn chúng ta rất nhiều, chúng ta sẽ gặp những vấn đề nghiêm trọng. Chúng ta sẽ có trí thông minh mới mạnh mẽ mà nó khuếch đại những mặt tối của những bản chất có thể là sai lầm của chính chúng ta.

For safety’s sake, then, we want the machines to be ethically as well as cognitively superhuman. We want them to aim for the moral high ground, not for the troughs in which many of us spend some of our time. Luckily they’ll be smart enough for the job. If there are routes to the moral high ground, they’ll be better than us at finding them, and steering us in the right direction.

Do vậy, vì mục đích an toàn, chúng ta muốn máy móc là siêu phàm về đạo đức cũng như nhận thức. Chúng ta muốn chúng nhắm đến nền tảng đạo đức cao, không phải cho những điểm tồi tệ mà nhiều người trong chúng ta trải qua trong quãng đời của mình. Thật may mắn chúng sẽ đủ thông minh cho việc này. Nếu có những con đường dẫn đến nền tảng đạo đức cao, chúng sẽ giỏi hơn chúng ta trong việc tìm ra chúng, và hướng chúng ta đi đúng hướng.

However, there are two big problems with this utopian vision. One is how we get the machines started on the journey, the other is what it would mean to reach this destination. The ‘getting started’ problem is that we need to tell the machines what they’re looking for with sufficient clarity that we can be confident they will find it – whatever ‘it’ actually turns out to be. This won’t be easy, given that we are tribal creatures and conflicted about the ideals ourselves. We often ignore the suffering of strangers, and even contribute to it, at least indirectly. How then, do we point machines in the direction of something better?

Tuy nhiên, có hai vấn đề lớn với tầm nhìn xã hội hoàn hảo này. Một là bằng cách nào chúng ta khởi động các cỗ máy này tiến lên trên hành trình đó, vấn đề khác là ý nghĩa gì để đạt được đích đến này. Vấn đề ‘khởi động’ là chúng ta cần nói cho máy móc biết chúng đang tìm kiếm cái gì một cách đủ rõ ràng để chúng ta có thể tự tin rằng chúng sẽ tìm thấy nó – bất kể ‘nó’ thực sự sẽ là gì. Điều này sẽ là không dễ dàng, vì chúng ta là những sinh vật mang tính bộ tộc và  bị mâu thuẫn về những lý tưởng của chính chúng ta. Chúng ta thường bỏ qua sự đau khổ của những người xa lạ, và thậm chí còn góp phần cho nó, ít nhất là gián tiếp. Vậy làm thế nào, chúng ta có thể chỉ đường cho máy móc theo hướng của thứ gì đó tốt hơn?

As for the ‘destination’ problem, we might, by putting ourselves in the hands of these moral guides and gatekeepers, be sacrificing our own autonomy – an important part of what makes us human. Machines who are better than us at sticking to the moral high ground may be expected to discourage some of the lapses we presently take for granted. We might lose our freedom to discriminate in favour of our own communities, for example.

Về vấn đề “điểm đến”, chúng ta có thể, bằng cách đặt chính chúng ta vào việc bị kiểm soát của những hướng dẫn hay các thành phần kiểm soát đạo đức này, hi sinh quyền tự quyết định của chính bản thân chúng ta  –  một phần quan trọng của những thứ làm cho chúng ta là con người. Máy móc thứ mà giỏi hơn chúng ta trong việc tuân thủ nền tảng đạo đức cao có thể được kỳ vọng để ngăn cản những sai lầm mà hiện tại chúng ta xem là hiển nhiên được hưởng. Ví dụ, chúng ta có thể mất đi sự tự do của chúng ta để đối xử phân biệt cho lợi ích của cộng đồng của chúng ta.

Loss of freedom to behave badly isn’t always a bad thing, of course: denying ourselves the freedom to put children to work in factories, or to smoke in restaurants are signs of progress. But are we ready for ethical silicon police limiting our options? They might be so good at doing it that we won’t notice them; but few of us are likely to welcome such a future.

Mất quyền tự do để hành xử sai trái không phải luôn là một điều xấu, rõ ràng là như vậy: từ chối chính chúng ta quyền tự do cho trẻ em làm việc trong các nhà máy, hay hút thuốc trong các nhà hàng là những tín hiệu của sự tiến bộ. Nhưng chúng ta đã sẵn sàng để những cảnh sát silicon/công nghệ có đạo đức này hạn chế những lựa chọn của chúng ta? Chúng có thể là rất giỏi với việc làm điều đó mà chúng ta không nhận ra; nhưng rất ít người trong chúng ta muốn chào đón một tương lai như thế.

These issues might seem far-fetched, but they are to some extent already here. AI already has some input into how resources are used in our National Health Service (NHS) here in the UK, for example. If it was given a greater role, it might do so much more efficiently than humans can manage, and act in the interests of taxpayers and those who use the health system. However, we’d be depriving some humans (e.g. senior doctors) of the control they presently enjoy. Since we’d want to ensure that people are treated equally and that policies are fair, the goals of AI would need to be specified correctly.

Những vấn đề này dường như rất xa vời, nhưng ở những mức độ nào đó chúng đã có ở hiện tại. Ví dụ, AI hiện đã có một số ý tưởng được đưa vào việc sử dụng các nguồn lực trong Dịch Vụ Chăm Sóc Sức Khỏe Quốc Gia (NHS) của chúng ta như thế nào ở Anh. Nếu nó đã được giao cho một vai trò lớn hơn, nó có thể đã làm việc hiệu quả hơn rất nhiều so với con người có thể quản lý, và hoạt động với lợi ích của những người đóng thuế và những người sử dụng hệ thống chăm sóc sức khỏe này. Tuy nhiên, chúng ta có thể đang tước đi quyền kiểm soát của một số người mà họ đang hưởng (ví dụ như các bác sĩ kỳ cựu). Bởi vì chúng ta muốn đảm bảo rằng con người là được đối xử công bằng và các chính sách là công bằng, các mục tiêu của AI cần phải được xác định đúng đắn.

We have a new powerful technology to deal with – itself, literally, a new way of thinking. For our own safety, we need to point these new thinkers in the right direction, and get them to act well for us. It is not yet clear whether this is possible, but if it is, it will require a cooperative spirit, and a willingness to set aside self-interest.

Chúng ta có một công nghệ mới mạnh mẽ để đối mặt với – chính nó, theo đúng nghĩa đen, một cách tư duy mới. Vì sự an toàn của chính chúng ta, chúng ta cần hướng những nhà tư tưởng mới này đi đúng hướng, và khiến họ hành động tốt cho chúng ta. Cũng chưa hẳn là rõ ràng liệu điều này có thể thực hiện được hay không, nhưng nếu là như vậy, nó sẽ đòi hỏi một tinh thần hợp tác, và một sự sẵn lòng bỏ qua lợi ích bản thân.

Both general intelligence and moral reasoning are often thought to be uniquely human capacities. But safety seems to require that we think of them as a package: if we are to give general intelligence to machines, we’ll need to give them moral authority, too. And where exactly would that leave human beings? All the more reason to think about the destination now, and to be careful about what we wish for.

Cả trí thông minh tổng quát và lý luận đạo đức thường được cho là những khả năng độc nhất của con người. Nhưng sự an toàn dường như đòi hỏi rằng chúng ta coi chúng như một bộ: nếu chúng ta trao trí thông minh tổng quát cho máy móc, chúng ta cũng cần cho chúng quyền về đạo đức nữa. Và điều đó chính xác sẽ vượt con người ở đâu? Càng nhiều lý do hơn để suy nghĩ về đích đến ở thời điểm hiện tại, và thận trọng về những thứ chúng ta mong muốn.